Cách thức hoạt động của thuật toán đề xuất TikTok

Khi nhà nghiên cứu trí tuệ nhân tạo Marc Faddoul tham gia TikTok vài ngày trước, anh ấy đã thấy một cái gì đó liên quan: Khi anh ấy theo dõi một tài khoản mới, các hồ sơ được đề xuất bởi TikTok có vẻ kỳ lạ, giống với hình ảnh hồ sơ của tài khoản đầu tiên. Ví dụ, theo một phụ nữ tóc vàng trông trẻ, đưa ra các khuyến nghị để theo dõi nhiều phụ nữ tóc vàng trông trẻ hơn.

cách marketing tiktok

Faddoul, một nhà khoa học nghiên cứu tại Đại học California Berkeley, muốn xem xét cách TikTok, một nền tảng truyền thông xã hội có trụ sở tại Trung Quốc phổ biến trong thanh thiếu niên, làm việc. Vì vậy, anh bắt đầu với một tài khoản mới, không liên kết với hồ sơ trên bất kỳ nền tảng nào khác. Và khi theo dõi các tài khoản khác nhau, Faddoul quan sát thấy rằng hình ảnh hồ sơ của các tài khoản được đề xuất có vẻ rất giống với hình ảnh hồ sơ của tài khoản ban đầu.

Theo dõi những người đàn ông da đen dẫn đến các khuyến nghị để theo dõi nhiều người đàn ông da đen hơn. Theo dõi những người đàn ông da trắng có râu đưa ra khuyến nghị cho những người đàn ông da trắng có râu nhiều hơn. Theo người cao tuổi sinh ra các khuyến nghị cho người cao tuổi khác. Và trên và trên.

cách hoạt động tiktok

Đánh dấu Faddoul / Twitter

Thí nghiệm Faddoul sườn TikTok là một nghiên cứu khoa học. Nó chỉ đơn giản là đại diện cho một nhà nghiên cứu cá nhân kinh nghiệm ban đầu trên nền tảng. Recode xem lại ảnh chụp màn hình được gửi bởi Faddoul và thực hiện một số tìm kiếm tương tự mà anh ta đã làm. Những tìm kiếm này tạo ra kết quả tương tự: các đề xuất được theo dõi có xu hướng giống với tài khoản ban đầu được theo dõi, mặc dù chúng không phải lúc nào cũng giống hệt các tài khoản xuất hiện trong kết quả của Faddoul.

Recode cũng theo dõi một số tài khoản được chọn ngẫu nhiên khác, nhưng những tài khoản đó không nhất thiết phải đưa ra các đề xuất chia sẻ một danh tính dễ quan sát. Đôi khi có những điểm tương đồng trong tài khoản và những người được đề xuất, nhưng những chuyến tàu đó rõ ràng là vật lý. Thay vào đó, tất cả các tài khoản được đề xuất đều có chung sở thích, như nhạc kịch Broadway, ngoài trời hoặc thú cưng.

Nó có giá trị đáng chú ý rằng ít nhất một người khác, Nhận xét về chủ đề Twitter trong đó Faddoul ban đầu đăng kết quả của mình, cho biết họ không thể sao chép kết quả của mình. Nhưng kinh nghiệm của Faddoul, tuy nhiên đặt ra câu hỏi về cách thức các công cụ đề xuất này hoạt động trên các nền tảng truyền thông xã hội. Khi bạn theo dõi ai đó với những đặc điểm nhân khẩu học nhất định, tại sao bạn có thể nhận được những người được đề xuất với những định danh vật lý tương tự? Và điều này ảnh hưởng đến những người trải nghiệm trên mạng xã hội như thế nào?

Các nền tảng thường cố gắng xây dựng các thuật toán đề xuất sẽ tạo ra kết quả phù hợp với sở thích của bạn. Nhưng những khuyến nghị này có thể có những hậu quả không lường trước và có thể tạo ra mối lo ngại về cái gọi là bong bóng lọc. (Bong bóng bộ lọc là kết quả của nội dung internet được cá nhân hóa cao dẫn đến cảm giác bị cô lập.) Nếu bạn chỉ theo dõi những người trên phương tiện truyền thông xã hội trông giống bạn hoặc chia sẻ sở thích của bạn, chẳng hạn, bạn sẽ bị mắc kẹt trong một phản hồi vô tận vòng lặp có thể bóp méo thế giới quan của bạn. Nếu kinh nghiệm của Faddoul, là đại diện của hầu hết mọi người trên nền tảng này, thì TikTok có thể sẽ gây ra vấn đề tương tự đã gây khó chịu cho các nền tảng truyền thông xã hội cũ, cũ hơn như Twitter và Facebook.

TikTok đẩy lùi chống lại những phát hiện của Faddoul.

Một người phát ngôn của TikTok cho biết, chúng tôi đã có thể sao chép các kết quả tương tự như những tuyên bố này. Lời khuyên của chúng tôi về các tài khoản cần theo dõi dựa trên hành vi của người dùng: người dùng theo dõi tài khoản A cũng theo dõi tài khoản B, vì vậy nếu bạn theo dõi A, có khả năng bạn cũng muốn theo dõi.

Quá trình này thường được gọi là lọc cộng tác, một loại thuật toán đề xuất cũng có thể bật lên trên các ứng dụng hẹn hò. Cách thức hoạt động của loại thuật toán này có thể giải thích kết quả của anh ấy. Faddoul đã nhanh chóng thừa nhận rằng bộ lọc cộng tác có thể đang hoạt động.

Bộ lọc cộng tác làm gì là nếu tôi theo dõi một tài khoản, thì nó sẽ xem xét tất cả những người khác đã theo dõi cùng một tài khoản đó, theo F Fouloul giải thích. Phần mềm và thuật toán sẽ chọn các tài khoản [there is] rất nhiều sự trùng lặp giữa những người dùng đã theo dõi tài khoản này mà tôi vừa theo dõi.

Tuy nhiên, Faddoul cũng nói với Recode rằng anh ta tin rằng nhiều khả năng TikTok đang sử dụng thứ mà anh ta gọi là tự động hóa. Loại thuật toán đề xuất này có thể lấy tín hiệu của người dùng từ hình ảnh hồ sơ để tìm hình ảnh hồ sơ với các thuộc tính tương tự. Những loại tín hiệu này sẽ là mối tương quan giữa các hình ảnh, có thể tương ứng với bất cứ điều gì từ màu da đến việc có râu. Thuật toán chỉ đơn giản là tìm kiếm sự tương đồng trong các bức ảnh hoặc hồ sơ.Nó đáng lưu ý rằng trong các tìm kiếm của chúng tôi, Recode đã tìm thấy rất nhiều khuyến nghị không giống với tài khoản ban đầu.

Điều mà tôi nghi ngờ đang xảy ra là TikTok đang kỳ công hóa bức ảnh cá nhân, anh nói, và sử dụng các tính năng này trong công cụ đề xuất.

Nhưng bất kể kết quả như thế nào xuất hiện, một vấn đề chung hơn với các thuật toán đề xuất là cuối cùng chúng có thể xác nhận các xu hướng tồn tại từ trước của chúng tôi.

Các công cụ khuyến nghị của xu hướng có xu hướng tạo ra các môi trường thông tin có chọn lọc, tổ chức Faddoul nói với Recode. Trong trường hợp của TikTok, nó có một chút khác biệt, bởi vì mọi người không nhất thiết phải tìm kiếm thông tin.

Ông cũng chỉ ra rằng một hệ thống như vậy có thể tạo ra một vòng phản hồi có vấn đề. Nếu những người có ảnh hưởng được theo dõi nhiều nhất có xu hướng là người da trắng, và những người được đề nghị sau khi theo dõi người có ảnh hưởng trắng cũng là người da trắng, thì điều đó có thể khiến những người sáng tạo là người da màu.

Tò mò về cách mà có thể làm việc? Năm ngoái, một nhóm được Mozilla hỗ trợ đã tạo ra một trò chơi trực tuyến có tên làTrận đấu quái vật, Trực tiếp cho thấy các tùy chọn ban đầu của bạn có thể thu hẹp kết quả mà bạn nhìn thấy xuống dòng. Bạn có thể chơi trò chơi cho chính mình.

Các thuật toán khuyến nghị trên phương tiện truyền thông xã hội từ lâu đã gây tranh cãi. Chúng tôi hiếm khi biết làm thế nào họ làm việc, và kết quả của họ có thể gây nhầm lẫn và đôi khi thậm chí đáng sợ. Hãy dùng Facebook Những người bạn có thể biết tính năng, một thanh bên trên nền tảng gợi ý những người bạn có thể muốn kết bạn. Như Gizmodo báo cáo hai năm trước, điều đó dường như dựa vào tất cả các loại dữ liệu được thu thập từ người dùng để dự đoán các kết nối tiềm năng. Nhưng hệ thống vẫn không khuyến nghị những người bạn thực sự biết – hoặc ít nhất, không rõ bạn có thể kết nối như thế nào. Đôi khi, nó có thể giới thiệu những người mà chúng tôi không biết, như bệnh nhân của cùng một bác sĩ tâm thần.

Không có bằng chứng nào cho thấy có bất cứ điều gì bất chính khi chơi trong thuật toán đề xuất TikTok. Nhưng kết quả Faddoul sườn là lạ. Họ cũng là một lời nhắc nhở rằng chúng ta thường biết rất ít về cách các thuật toán đằng sau hậu trường trên các nền tảng công nghệ yêu thích của chúng tôi đề xuất các nội dung khác và cuối cùng chúng có thể xác nhận những thành kiến ​​của chúng ta nhiều hơn chúng ta nghĩ.

Mở nguồn được thực hiện bởi Omidyar Network. Tất cả nội dung có nguồn mở là độc lập về mặt biên tập và được sản xuất bởi các nhà báo của chúng tôi.

Add a Comment

Your email address will not be published. Required fields are marked *