Hồ sơ về an toàn trẻ em của ngành công nghệ đang bị soi xét kỹ lưỡng.
Trong các vụ kiện pháp lý diễn ra tại California, New Mexico và West Virginia tuần này, Giám đốc điều hành Meta, Mark Zuckerberg và Giám đốc điều hành Apple, Tim Cook, đang phải đối mặt với những câu hỏi về quyền riêng tư, tự do ngôn luận và an toàn — những vấn đề mà các công ty công nghệ lớn nhất cân nhắc trong mỗi lần phát hành tính năng.
Nếu các công ty bị kết luận có trách nhiệm trong các vụ kiện tương ứng, tòa án có thể buộc phải thực hiện những thay đổi sản phẩm chưa từng có, ảnh hưởng đến hàng tỷ người.
Zuckerberg đã bảo vệ quyết định của mình tại tòa án Los Angeles hôm thứ Tư khi các luật sư gây áp lực buộc ông phải giải thích lý do tại sao ông cho phép sử dụng bộ lọc làm đẹp trên Instagram và liệu nỗ lực phát triển kinh doanh của công ty có lấn át những lo ngại về sức khỏe tâm thần của giới trẻ hay không.
Các tin nhắn nội bộ từ vụ kiện của Meta ở New Mexico cho thấy các nhân viên đang thảo luận về khoảng 7,5 triệu báo cáo về tài liệu lạm dụng tình dục trẻ em hàng năm mà sẽ không còn được tiết lộ sau quyết định của Zuckerberg, được công bố vào năm 2019, về việc mã hóa đầu cuối mặc định cho Facebook Messenger.
Các tin nhắn này được tiết lộ trong một hồ sơ pháp lý mới được công bố do tiểu bang New Mexico đệ trình trong tuần này.
“Số liệu CSER [Báo cáo Thực thi Tiêu chuẩn Cộng đồng] của chúng ta năm tới sẽ giảm mạnh,” một nhân viên viết trong tin nhắn ngày 14 tháng 12 năm 2023, theo hồ sơ. Đó cũng là tháng mà Meta tuyên bố trên blog công khai rằng họ sẽ bắt đầu “triển khai mã hóa đầu cuối mặc định cho tin nhắn cá nhân và cuộc gọi trên Messenger và Facebook.”
Nhân viên này nói thêm rằng dường như công ty “đã trải một tấm thảm lớn để che đậy những vấn đề nghiêm trọng” và cho biết họ đang gửi ít báo cáo về lạm dụng trẻ em hơn, theo hồ sơ.
“Tôi quan tâm đến sự an toàn của thanh thiếu niên và trẻ em đang sử dụng dịch vụ của chúng tôi,” Zuckerberg nói hôm thứ Tư tại Los Angeles, khi được hỏi về cuộc trao đổi email với Cook.
Bang Tây Virginia đã đệ đơn kiện nhà sản xuất iPhone hôm thứ Năm về cách xử lý tài liệu lạm dụng tình dục trẻ em, hay CSAM.
Vụ kiện do Tổng chưởng lý Raúl Torrez khởi xướng tại New Mexico đã bắt đầu phần tranh luận mở đầu vào ngày 9 tháng 2. Ông Zuckerberg dự kiến sẽ không ra làm chứng trong phiên tòa.
Ông Torrez cáo buộc Meta đã không bảo vệ đúng cách các ứng dụng như Instagram và Facebook khỏi những kẻ săn mồi trực tuyến và đưa ra những tuyên bố sai lệch về sự an toàn tổng thể của nền tảng của mình.
“Meta biết rằng mã hóa đầu cuối (E2EE) sẽ làm cho nền tảng của họ kém an toàn hơn bằng cách ngăn cản việc phát hiện và báo cáo hành vi bóc lột tình dục trẻ em cũng như việc dụ dỗ và phân phối hình ảnh bóc lột trẻ em được gửi trong các tin nhắn được mã hóa,” các luật sư cho biết trong hồ sơ. “Meta cũng biết rằng các biện pháp giảm thiểu rủi ro an toàn của họ sẽ không đủ để giải quyết các rủi ro đó.”
E2EE là viết tắt của mã hóa đầu cuối.
Gã khổng lồ mạng xã hội này cho biết trong phản hồi về hồ sơ được công bố rằng công ty tiếp tục phát triển các công cụ và tính năng an toàn và có thể xem xét và xử lý các tin nhắn riêng tư được mã hóa nếu chúng được báo cáo về các vấn đề liên quan đến an toàn trẻ em.
Trước đó, Meta đã phản bác lại các cáo buộc của Tổng chưởng lý New Mexico, nói rằng họ “tập trung vào việc chứng minh cam kết lâu dài của mình trong việc hỗ trợ giới trẻ.”
Các tài liệu tòa án ở New Mexico cho thấy một số ghi chú nội bộ đã chỉ ra những lo ngại lớn về việc thay đổi mã hóa và ảnh hưởng của nó đến khả năng phát hiện và báo cáo nội dung lạm dụng tình dục trẻ em (CSAM) và các tin nhắn độc hại khác của công ty.
Một nhân viên cấp cao tại Meta Global Affairs đã viết trong một ghi chú ngày 25 tháng 2 năm 2019 rằng: “Nếu không có các biện pháp giảm thiểu mạnh mẽ, mã hóa đầu cuối (E2EE) trên Messenger sẽ khiến chúng ta giảm đáng kể khả năng ngăn chặn tác hại đối với trẻ em.”
Một tài liệu nội bộ khác từ tháng 6 năm 2019 cho biết: “Chúng ta sẽ không bao giờ tìm ra tất cả những tác hại tiềm tàng mà chúng ta gây ra hiện nay trên Messenger khi hệ thống an ninh của chúng ta có thể xem được chính các tin nhắn đó.”
Mặc dù những người ủng hộ quyền riêng tư đã ca ngợi khả năng mã hóa hiệu quả để làm xáo trộn tin nhắn, ngăn chặn bên thứ ba theo dõi các cuộc trò chuyện của mọi người, nhưng nhiều thành viên của cơ quan thực thi pháp luật cho rằng việc làm đó cản trở khả năng điều tra một số tội phạm nhất định.
Sau khi Meta hoàn tất nỗ lực mã hóa trên Facebook Messenger, các luật sư đã viết trong hồ sơ rằng “những lo ngại được truyền đạt bởi cơ quan thực thi pháp luật và thậm chí cả nhân viên của họ đã được chứng minh là đúng.”
YouTube, thuộc sở hữu của Alphabet, cũng là bị cáo trong vụ kiện ở Los Angeles, trong khi TikTok và Snap không còn liên quan sau khi đạt được thỏa thuận dàn xếp với nguyên đơn trước khi phiên tòa bắt đầu vào tháng Giêng.
Apple cũng đang đối mặt với những câu hỏi về mã hóa và quyền riêng tư.
Tổng chưởng lý bang West Virginia, John “JB” McCuskey, cáo buộc trong một vụ kiện được đệ trình hôm thứ Năm rằng công ty đã không ngăn chặn việc lưu trữ và chia sẻ nội dung khiêu dâm trẻ em trên các thiết bị iOS và dịch vụ iCloud.
Tương tự như các cáo buộc chống lại Meta ở New Mexico, McCuskey đã chỉ ra các biện pháp mã hóa của Apple là trở ngại đối với việc thực thi pháp luật.
“Về cơ bản, mã hóa đầu cuối là một rào cản đối với việc thực thi pháp luật, bao gồm cả việc xác định và truy tố những kẻ phạm tội và lạm dụng nội dung khiêu dâm trẻ em”, các luật sư viết trong hồ sơ pháp lý của Apple.
Apple cho biết trong một tuyên bố rằng “bảo vệ sự an toàn và quyền riêng tư của người dùng, đặc biệt là trẻ em, là trọng tâm trong những gì chúng tôi làm”.
Các vụ kiện pháp lý chống lại cả hai công ty, và cuộc trao đổi giữa Cook và Zuckerberg về an toàn trẻ em, đang làm dấy lên thêm nhiều câu hỏi về những gì các công ty nợ người dùng và các bên liên quan khác trên nền tảng của họ.
“Tôi nghĩ có những cơ hội mà công ty chúng tôi và Apple có thể thực hiện, và tôi muốn thảo luận với Tim về điều đó,” Zuckerberg nói về những email trao đổi với Cook.
Khi các vụ kiện được giải quyết, chúng ta sẽ hiểu rõ hơn về những quyết định ảnh hưởng đến hàng tỷ người trên thế giới.