Thông tin sai lệch và lời nói thù hận trên mạng xã hội đang gây ra những hậu quả đáng báo động, đặc biệt là đối với nhóm người dễ bị tổn thương. Hãy tưởng tượng, nếu chúng ta có thể tận dụng trí tuệ nhân tạo (AI) để chống lại những nội dung có hại như vậy trong tương lai?
Đó là mục tiêu mà một nhóm các nhà nghiên cứu từ Đại học Toronto (UoT) đang theo đuổi. Nhóm nghiên cứu này vinh dự nhận được giải thưởng Trợ cấp thúc đẩy tác từ Viện Khoa học Dữ liệu (DSI) để phát triển một hệ thống AI nhằm giải quyết tình trạng những nhóm người bị gạt ra bên lề trong các hệ thống tập trung vào dữ liệu – bao gồm các nền tảng mạng xã hội như Twitter.
Nhóm nghiên cứu gồm ba giảng viên: Syed Ishtiaque Ahmed, Shohini Bhattasali và Shion Guha – tất cả đều là những nhà nghiên cứu hàng đầu trong lĩnh vực khoa học máy tính và ngôn ngữ tại Đại học Toronto.
Mục tiêu của họ là biến việc kiểm duyệt nội dung trở nên hoàn thiện hơn bằng cách thu hút sự tham gia từ cộng đồng những người dễ bị tổn thương bởi nội dung gây hại hoặc thù hận trên mạng xã hội. Dự án này đang được thực hiện với sự hợp tác của hai tổ chức phi lợi nhuận của Canada: Hội đồng Công bằng Xã hội của Người Canada gốc Hoa (CCNC-SJ) và Sáng kiến Chống phân biệt chủng tộc đạo Hồi.
Điều khó khăn lớn nhất của việc kiểm duyệt nội dung là các nhóm chịu tổn thương bị ảnh hưởng nhiều nhất vì họ ít được tham gia vào đội ngũ những người kiểm duyệt và dữ liệu của họ cũng ít được sử dụng trong các thuật toán.
Dự án có mục tiêu thiết kế và đánh giá hệ thống được đề xuất để giải quyết các bài đăng có nội dung liên quan đến việc Bài người Hồi giáo và Bài người Hán trên Twitter. Hệ thống AI này hướng đến việc dân chủ hóa trong hệ thống kiểm duyệt nội dung bằng cách sử dụng các ngôn ngữ khác nhau. Một mặt, bằng cách cho phép người dùng phản đối các quyết định, việc kiểm duyệt trở nên minh bạch và đáng tin cậy hơn. Mặt khác, thông qua việc thu thập thông tin đầu vào từ người dùng và đào tạo lại mô hình máy học, hệ thống đảm bảo rằng quan điểm của người dùng được cân nhắc trong quá trình sàng lọc dữ liệu.
Chúng tôi gặp khó khăn khi đánh giá dữ liệu từ những ý kiến khác nhau. Việc giải quyết vấn đề này một cách dân chủ đòi hỏi sự tham gia từ các cộng đồng khác nhau, một thực tế không phổ biến trong lĩnh vực khoa học dữ liệu”, Ahmed chia sẻ.
Hệ thống AI này sẽ tích hợp kiến thức và kinh nghiệm từ cộng đồng vào quá trình giảm thiểu nội dung thù hận nhắm vào chính họ. Các nhà nghiên cứu đang sử dụng một phương pháp quản lý dữ liệu cho phép cộng đồng tham gia, nhằm hiểu các loại nội dung có hại khác nhau và sự ảnh hưởng của chúng đến cộng đồng khác nhau trong quá trình gắn nhãn dữ liệu.
Ahmed bày sự biết ơn sâu sắc tới DSI, đã trợ cấp cho dự án của họ. Nhóm nghiên cứu của ông dự kiến sẽ có tác động sâu rộng vượt ra ngoài hai cộng đồng mà họ đang tập trung nghiên cứu. Với sự phát triển của hệ thống AI này, chúng ta có thể mong đợi một tương lai mà thông tin sai lệch và lời nói thù hận trên mạng xã hội sẽ được kiểm soát tốt hơn, nhờ sự cống hiến và sự sáng tạo của nhóm nghiên cứu tại Đại học Toronto.
