GÓC KHUẤT CỦA INSTAGRAM
GÓC KHUẤT CỦA INSTAGRAM
Nguồn: The dark side of Instagram - Family And Media
Chuyển ngữ: BTT Thần học Truyền Thông
Ngày càng có nhiều người trên thế giới sử dụng mạng xã hội. Thống kê của Liên Hợp Quốc năm 2023 cho thấy đã có tới 8,01 tỷ người dùng thường xuyên. Instagram nổi lên là một trong những nền tảng được sử dụng rộng rãi nhất để chia sẻ ảnh, video, đồng thời cũng để bình luận, thích và lưu nội dung. Nhưng liệu tất cả những hoạt động trực tuyến có phải lúc nào cũng hoàn toàn vô hại?
Video độc hại, mang tính chất khiêu dâm: một cuộc điều tra của tờ The Wall Street Journal
Cách đây vài năm, một cuộc điều tra kéo dài của tờ The Wall Street Journal đã cho thấy thuật toán (algorithm) của Instagram đã đề xuất những video độc hại như thế nào, bao gồm cả những thước phim mang tính chất khiêu dâm trẻ em. Tờ Journal phát hiện ra rằng các thuật toán do Meta điều hành, công ty mẹ của cả Facebook và Instagram, đã kết nối những cộng đồng lớn có chung sở thích về nội dung khiêu dâm, thường liên quan đến trẻ vị thành niên. Về cơ bản, thông qua các tài khoản giả mạo được lập ra cho cuộc điều tra, họ phát hiện ra rằng nền tảng này chứa cả nội dung khiêu dâm người lớn và nội dung khiêu dâm trẻ em.
Đây là một cáo buộc nghiêm trọng - mà Meta đã nhanh chóng phản hồi - bằng cách thành lập một đội đặc nhiệm và mở rộng hệ thống tự động của mình để phát hiện những người dùng có hành vi đáng ngờ, định kỳ chặn hàng chục nghìn tài khoản như vậy.
Cuộc điều tra của tờ báo Mỹ kéo dài trong nhiều tháng, trong thời gian đó, các "tài khoản Instagram thử nghiệm" do người lớn điều hành đã được tạo ra để theo dõi các vận động viên thể dục dụng cụ, hoạt náo viên và những người trẻ tuổi có ảnh hưởng khác. Họ phát hiện ra rằng chỉ cần những tài khoản này theo dõi các cô gái cũng đủ để thuật toán Instagram bắt đầu gợi ý video từ các tài khoản quảng bá nội dung khiêu dâm người lớn, cùng với quảng cáo từ các thương hiệu tiêu dùng lớn.
Các chuyên gia về thuật toán phát hiện ra rằng ngay cả khi bắt đầu bằng nội dung lành mạnh như thể dục dụng cụ chẳng hạn, một số người dùng Instagram theo dõi các cô gái tập thể dục dụng cụ vị thành niên lại thấy mình bất ngờ bị “đẩy” video có nội dung khiêu dâm - trong đó đáng tiếc là có trẻ em. “Nội dung phân khúc (niche content, nội dung hướng đến nhóm đối tượng cụ thể) cung cấp tín hiệu mạnh hơn nhiều so với nội dung chung chung (general content)”, Jonathan Stray, nhà khoa học nghiên cứu tại Trung tâm Trí tuệ nhân tạo tương thích với con người tại Đại học California, Berkeley, nhận định. Nội dung phân khúc được định nghĩa như vậy bởi vì nó thường ít tính chất đại trà hơn và hướng đến một đối tượng rất cụ thể (nhà thiết kế, người yêu sách, v.v.) hoặc một hoạt động riêng biệt.
Khi Instagram xác định được người dùng quan tâm đến một chủ đề cụ thể, thuật toán của nó sẽ được đào tạo để liên tục gợi ý nội dung liên quan đến họ. Cuộc điều tra cho thấy xu hướng các thuật toán của ứng dụng Instagram thu thập nội dung khiêu dâm hóa trẻ em trên ứng dụng của nó là một vấn đề đã được biết đến rộng rãi trong nội bộ công ty. Tuy nhiên, các chuyên gia giải thích, việc ngăn chặn hệ thống tiếp tục cung cấp nội dung có hại cho người dùng bị ảnh hưởng sẽ đòi hỏi những thay đổi đáng kể đối với thuật toán của nó, vốn là những hệ thống lọc nội dung khó quản lý ngay cả đối với chính các nhân viên an ninh của nền tảng, những người thường không có quyền truy cập vào loại hệ thống này.
Cảnh báo Reels: Kiểm soát nội dung gặp nhiều khó khăn
Reels, tính năng cho phép người dùng Instagram chia sẻ video ngắn (tối đa 90 giây), đang vấp phải nhiều lo ngại về vấn đề an ninh mạng. Các cựu nhân viên Meta cho biết, hệ thống tự động của Reels gặp khó khăn trong việc phân tích nội dung video so với văn bản hay hình ảnh tĩnh. Bên cạnh đó, cơ chế hoạt động của Reels cũng tiềm ẩn nhiều rủi ro: thay vì hiển thị nội dung từ bạn bè, Reels lại ưu tiên quảng bá video từ những tài khoản người dùng không theo dõi.
Phản hồi trước những lo ngại này, Meta, công ty mẹ của Instagram, cho biết đã gỡ bỏ hàng ngàn hashtag liên quan đến các hoạt động ấu dâm và buôn bán người trên nền tảng. Đồng thời, Meta cũng giới thiệu các tính năng mới nhằm hạn chế sự tương tác giữa người lớn và trẻ vị thành niên.
Giáo dục kỹ thuật số - một nhu cầu cấp thiết
Có một thực tế không thể phủ nhận: Mạng xã hội, dù mang lại nhiều lợi ích, vẫn tiềm ẩn những nguy cơ khôn lường.
Nhìn vào Instagram, mạng xã hội đề cao ngoại hình hơn cả, ta thấy rõ điều đó. Nó như một sân khấu để người ta phô diễn cuộc sống hào nhoáng, những gì mình làm, mình sở hữu. Cơ chế so sánh xã hội âm thầm len lỏi, đẩy con người vào vòng xoáy ganh đua, hơn thua. Phải chăng "kiêu ngạo", một trong bảy mối tội đầu, đang len lỏi trong thế giới ảo?
Ngược lại, TikTok lại là nơi phô diễn khả năng trình diễn của bản thân, ví dụ như hát nhép hay nhảy múa. Facebook là nơi người ta thể hiện tâm trạng qua những dòng trạng thái. Còn Instagram, nó là sự pha trộn của cả hai: vừa là nơi khoe khoang vẻ bề ngoài, vừa là sân khấu trình diễn bản thân, và vô tình khiến người khác cảm thấy thua kém, tự ti.
Trong bối cảnh đó, việc chúng ta tiếp xúc với những nội dung độc hại là điều khó tránh khỏi, dù ít hay nhiều, dù vô tình hay cố ý. Vì vậy, việc nâng cao nhận thức về những rủi ro khi sử dụng mạng xã hội là vô cùng cần thiết. Thực tế, đã có nhiều nghiên cứu chỉ ra rằng trẻ em dành hàng giờ mỗi ngày trên mạng xã hội, thường là không có sự giám sát của cha mẹ. Mạng Internet không chỉ có mặt trái, nhưng chúng ta cần tỉnh táo để sử dụng nó một cách thông minh. Hãy nhận thức rõ cả lợi ích và rủi ro mà nó mang lại. Và đối với trẻ vị thành niên, cha mẹ chính là người đồng hành và định hướng cho con trên con đường khám phá thế giới ảo. Giáo dục, một hành trình đầy thú vị và không ngừng đổi mới, giờ đây còn bao gồm cả "giáo dục kỹ thuật số".
