University of Toronto nghiên cứu hệ thống AI chống Thông Tin Sai Lệch và Sự Thù Hận trên Mạng Xã Hội

Ảnh: University of Toronto

Thông tin sai lệch và lời nói thù hận trên mạng xã hội đang gây ra những hậu quả đáng báo động, đặc biệt là đối với nhóm người dễ bị tổn thương. Hãy tưởng tượng, nếu chúng ta có thể tận dụng trí tuệ nhân tạo (AI) để chống lại những nội dung có hại như vậy trong tương lai?

Đó là mục tiêu mà một nhóm các nhà nghiên cứu từ Đại học Toronto (UoT) đang theo đuổi. Nhóm nghiên cứu này vinh dự nhận được giải thưởng Trợ cấp thúc đẩy tác từ Viện Khoa học Dữ liệu (DSI) để phát triển một hệ thống AI nhằm giải quyết tình trạng những nhóm người bị gạt ra bên lề trong các hệ thống tập trung vào dữ liệu – bao gồm các nền tảng mạng xã hội như Twitter.

Nhóm nghiên cứu gồm ba giảng viên: Syed Ishtiaque Ahmed, Shohini Bhattasali và Shion Guha – tất cả đều là những nhà nghiên cứu hàng đầu trong lĩnh vực khoa học máy tính và ngôn ngữ tại Đại học Toronto.

Mục tiêu của họ là biến việc kiểm duyệt nội dung trở nên hoàn thiện hơn bằng cách thu hút sự tham gia từ cộng đồng những người dễ bị tổn thương bởi nội dung gây hại hoặc thù hận trên mạng xã hội. Dự án này đang được thực hiện với sự hợp tác của hai tổ chức phi lợi nhuận của Canada: Hội đồng Công bằng Xã hội của Người Canada gốc Hoa (CCNC-SJ) và Sáng kiến Chống phân biệt chủng tộc đạo Hồi.

Điều khó khăn lớn nhất của việc kiểm duyệt nội dung là các nhóm chịu tổn thương bị ảnh hưởng nhiều nhất vì họ ít được tham gia vào đội ngũ những người kiểm duyệt và dữ liệu của họ cũng ít được sử dụng trong các thuật toán.

Dự án có mục tiêu thiết kế và đánh giá hệ thống được đề xuất để giải quyết các bài đăng có nội dung liên quan đến việc Bài người Hồi giáo và Bài người Hán trên Twitter. Hệ thống AI này hướng đến việc dân chủ hóa trong hệ thống kiểm duyệt nội dung bằng cách sử dụng các ngôn ngữ khác nhau. Một mặt, bằng cách cho phép người dùng phản đối các quyết định, việc kiểm duyệt trở nên minh bạch và đáng tin cậy hơn. Mặt khác, thông qua việc thu thập thông tin đầu vào từ người dùng và đào tạo lại mô hình máy học, hệ thống đảm bảo rằng quan điểm của người dùng được cân nhắc trong quá trình sàng lọc dữ liệu.

Chúng tôi gặp khó khăn khi đánh giá dữ liệu từ những ý kiến khác nhau. Việc giải quyết vấn đề này một cách dân chủ đòi hỏi sự tham gia từ các cộng đồng khác nhau, một thực tế không phổ biến trong lĩnh vực khoa học dữ liệu”, Ahmed chia sẻ.

Hệ thống AI này sẽ tích hợp kiến thức và kinh nghiệm từ cộng đồng vào quá trình giảm thiểu nội dung thù hận nhắm vào chính họ. Các nhà nghiên cứu đang sử dụng một phương pháp quản lý dữ liệu cho phép cộng đồng tham gia, nhằm hiểu các loại nội dung có hại khác nhau và sự ảnh hưởng của chúng đến cộng đồng khác nhau trong quá trình gắn nhãn dữ liệu.

Ahmed bày sự biết ơn sâu sắc tới DSI, đã trợ cấp cho dự án của họ. Nhóm nghiên cứu của ông dự kiến sẽ có tác động sâu rộng vượt ra ngoài hai cộng đồng mà họ đang tập trung nghiên cứu. Với sự phát triển của hệ thống AI này, chúng ta có thể mong đợi một tương lai mà thông tin sai lệch và lời nói thù hận trên mạng xã hội sẽ được kiểm soát tốt hơn, nhờ sự cống hiến và sự sáng tạo của nhóm nghiên cứu tại Đại học Toronto.

Liên hệ chúng tôi

Bài viết liên quan

Miễn trừ trách nhiệm: Tất cả nội dung đăng tải trên website chúng tôi, bao gồm nội dung bằng văn bản, hình ảnh, phim, biểu đồ và đồ họa, cũng như các tài nguyên khác mà chúng tôi có thể đăng tải bao gồm đường dẫn, liên kết hoặc tập tin, không được coi là lời khuyên di trú. Quý vị không nên dựa vào những thông tin đăng tải để đi đến một quyết định cho vấn đề di trú của cá nhân. Quý vị chịu hoàn toàn rủi ro khi dựa vào thông tin được cung cấp trên website của này, cũng như bất kỳ thông tin nào khác có trên website này được sử dụng từ các nguồn hoặc website khác.

Copyright: This article is composed with the explicit intent of reporting news and disseminating relevant information for the advantage of pertinent educational institutions and other involved parties. The utilization of the content herein adheres strictly to the principles of Fair Dealing as stipulated under the Canadian copyright law. It is not to be copied, altered, or directly reproduced without explicit permission. Any plans to republish or redistribute the information should be executed with due acknowledgment of the original source, not from this article. Please generate your content using the original source as a reference. Unauthorized replication is not only a violation of the copyright but also hinders our mission of information dissemination.

So sánh trường
So sánh
error: Chức năng quét nội dung tạm hủy.