Phong trào an toàn trực tuyến toàn cầu đã mở đường cho một số sản phẩm sử dụng trí tuệ nhân tạo được thiết kế để bảo vệ trẻ em khỏi những nội dung tiềm ẩn nguy hại trên internet.
Tại Anh, một đạo luật mới có tên là Đạo luật An toàn Trực tuyến (Online Safety Act) áp đặt nghĩa vụ chăm sóc lên các công ty công nghệ nhằm bảo vệ trẻ em khỏi nội dung không phù hợp với lứa tuổi, ngôn từ kích động thù địch, bắt nạt, gian lận và lạm dụng tình dục trẻ em (CSAM). Các công ty có thể phải đối mặt với mức phạt lên tới 10% doanh thu hàng năm trên toàn cầu nếu vi phạm.
Xa hơn nữa, các quy định mang tính bước ngoặt nhằm đảm bảo an toàn cho trẻ em trực tuyến đang nhanh chóng được Quốc hội Hoa Kỳ thông qua. Một dự luật, được gọi là Đạo luật An toàn Trực tuyến cho Trẻ em, sẽ buộc các nền tảng mạng xã hội phải chịu trách nhiệm ngăn chặn sản phẩm của họ gây hại cho trẻ em — tương tự như Đạo luật An toàn Trực tuyến tại Anh.
Động thái này từ các cơ quan quản lý đang ngày càng khiến nhiều công ty công nghệ lớn phải xem xét lại. Pornhub và các gã khổng lồ khiêu dâm trực tuyến khác đang chặn tất cả người dùng truy cập trang web của họ trừ khi họ thông qua hệ thống xác minh độ tuổi.
Tuy nhiên, các trang web khiêu dâm không phải là đơn độc trong việc xác minh độ tuổi của người dùng. Spotify, Reddit và X đều đã triển khai hệ thống đảm bảo độ tuổi để ngăn trẻ em tiếp xúc với các nội dung khiêu dâm hoặc không phù hợp. Các biện pháp quản lý như vậy đã vấp phải sự chỉ trích từ ngành công nghệ — một phần do lo ngại rằng chúng có thể xâm phạm quyền riêng tư của người dùng internet.
Công nghệ nhận dạng kỹ thuật số đang phát triển mạnh mẽ
Trọng tâm của tất cả các biện pháp xác minh độ tuổi này là một công ty: Yoti.
Yoti sản xuất công nghệ chụp ảnh tự sướng và sử dụng trí tuệ nhân tạo để xác minh tuổi của một người dựa trên các đặc điểm khuôn mặt. Công ty cho biết thuật toán AI của họ, được đào tạo trên hàng triệu khuôn mặt, có thể ước tính độ tuổi của những người từ 13 đến 24 tuổi trong vòng hai năm với độ chính xác cao.
Trước đây, công ty đã hợp tác với Bưu điện Anh và hy vọng sẽ tận dụng được xu hướng sử dụng thẻ căn cước kỹ thuật số do chính phủ cấp rộng rãi hơn tại Anh. Yoti không đơn độc trong lĩnh vực phần mềm xác minh danh tính — những công ty khác bao gồm Entrust, Persona và iProov. Tuy nhiên, công ty đã trở thành nhà cung cấp dịch vụ xác minh độ tuổi nổi bật nhất theo chế độ mới của Anh.
“Đang có một cuộc đua giữa các nhà cung cấp dịch vụ và công nghệ an toàn cho trẻ em để giành được niềm tin và sự tín nhiệm”, Pete Kenyon, đối tác tại công ty luật Cripps, chia sẻ: “Các yêu cầu mới chắc chắn đã tạo ra một thị trường mới và các nhà cung cấp đang nỗ lực để khẳng định vị thế của mình.”
Tuy nhiên, sự gia tăng của các phương pháp nhận dạng kỹ thuật số cũng dẫn đến những lo ngại về vi phạm quyền riêng tư và khả năng rò rỉ dữ liệu.
Kenyon cho biết: “Việc sử dụng công nghệ này sẽ phát sinh những vấn đề nghiêm trọng về quyền riêng tư. Niềm tin là chìa khóa và chỉ có thể đạt được thông qua việc áp dụng các quy trình kỹ thuật và quản trị nghiêm ngặt và hiệu quả nhằm đảm bảo an toàn cho dữ liệu cá nhân.”
Rani Govender, giám đốc chính sách an toàn trực tuyến cho trẻ em tại tổ chức từ thiện bảo vệ trẻ em Anh NSPCC, cho biết công nghệ này "đã tồn tại" để xác thực người dùng mà không ảnh hưởng đến quyền riêng tư của họ.
"Các công ty công nghệ phải đưa ra những lựa chọn có chủ đích và đạo đức bằng cách chọn các giải pháp bảo vệ trẻ em khỏi bị tổn hại mà không ảnh hưởng đến quyền riêng tư của người dùng", bà nói với CNBC. "Công nghệ tốt nhất không chỉ đáp ứng các yêu cầu; nó còn xây dựng niềm tin."
Điện thoại thông minh an toàn cho trẻ em
Làn sóng công nghệ mới nổi lên nhằm ngăn chặn trẻ em tiếp xúc với các tác hại trực tuyến không chỉ giới hạn ở phần mềm.
Đầu tháng này, nhà sản xuất điện thoại Phần Lan HMD Global đã ra mắt một chiếc điện thoại thông minh mới có tên Fusion X1, sử dụng AI để ngăn trẻ em quay phim, chia sẻ nội dung khỏa thân hoặc xem hình ảnh khiêu dâm từ camera, màn hình và trên tất cả các ứng dụng.
Chiếc điện thoại này sử dụng công nghệ được phát triển bởi SafeToNet, một công ty an ninh mạng của Anh tập trung vào an toàn cho trẻ em.
"Chúng tôi tin rằng cần phải làm nhiều hơn nữa trong lĩnh vực này", James Robinson, phó chủ tịch mảng gia đình tại HMD, chia sẻ. Ông nhấn mạnh rằng HMD đã đưa ra ý tưởng về thiết bị dành cho trẻ em trước khi Đạo luật An toàn Trực tuyến có hiệu lực, nhưng cũng lưu ý rằng "thật tuyệt khi thấy chính phủ đang có những bước tiến mạnh mẽ hơn".
Việc ra mắt điện thoại thân thiện với trẻ em của HMD diễn ra sau làn sóng "không điện thoại thông minh", phong trào khuyến khích các bậc cha mẹ tránh để con cái sở hữu điện thoại thông minh. Trong tương lai, Thống đốc của NSPCC cho biết an toàn trẻ em sẽ trở thành ưu tiên hàng đầu của các công ty công nghệ lớn như Google và Meta. "Trong nhiều năm, các gã khổng lồ công nghệ đã đứng nhìn nội dung độc hại và bất hợp pháp lan truyền trên nền tảng của họ, khiến những người trẻ tuổi bị phơi bày và dễ bị tổn thương", bà cho biết. "Thời kỳ bị bỏ bê đó phải chấm dứt."
Những gã khổng lồ công nghệ trong nhiều năm qua đã bị cáo buộc làm trầm trọng thêm tình trạng sức khỏe tâm thần ở trẻ em và thanh thiếu niên do sự gia tăng của nạn bắt nạt trực tuyến và nghiện mạng xã hội. Đổi lại, họ lập luận rằng họ đã thực hiện các bước để giải quyết những vấn đề này thông qua việc tăng cường kiểm soát của phụ huynh và các tính năng bảo mật.