Đây là một việc rất lớn. Nhưng cũng nên dành một chút thời gian để nói về những điều không mới ở đây, bởi vì bối cảnh là chìa khóa để hiểu được vị trí của Apple đang tạo ra bước đột phá mới - và vị trí thực sự của Apple.
Điều đầu tiên cần lưu ý là, ý tưởng quét cơ bản hoàn toàn không mới. Facebook, Google và Microsoft, tất cả đều làm gần như chính xác điều này trên bất kỳ hình ảnh nào được tải lên máy chủ của họ. Công nghệ hơi khác (sử dụng công cụ của Microsoft có tên là PhotoDNA) nhưng ý tưởng vẫn giống nhau: so sánh hình ảnh đã tải lên với cơ sở dữ liệu khổng lồ về hình ảnh lạm dụng trẻ em đã thấy trước đây và nếu có sự trùng khớp, hãy chặn tải lên, gắn cờ tài khoản, và kêu gọi cơ quan thực thi pháp luật.
Trong năm 2018, chỉ riêng Facebook đã phát hiện khoảng 17 triệu lượt tải lên mỗi tháng từ cơ sở dữ liệu khoảng 700.000 hình ảnh.
Các công cụ quét này không phải là “thông minh”. Chúng được thiết kế để chỉ nhận dạng những hình ảnh đã được tìm thấy và lập danh mục, với một chút thời gian để so khớp các biến đổi đơn giản như cắt xén, thay đổi màu sắc và những thứ tương tự. Họ sẽ không bắt được ảnh của con bạn trong bồn tắm, ngoài việc sử dụng từ “brucewayne” sẽ cho phép bạn truy cập vào các tệp của ai đó có mật khẩu “batman”.
Tuy nhiên, Apple đang thực hiện một bước quan trọng vào điều chưa biết. Đó là bởi vì phiên bản của phương pháp này, lần đầu tiên từ bất kỳ nền tảng chính nào, sẽ quét ảnh trên phần cứng của người dùng, thay vì đợi chúng được tải lên máy chủ của công ty.
Đó là điều đã làm dấy lên sự phẫn nộ, vì một số lý do. Hầu như tất cả đều tập trung vào thực tế là chương trình vượt qua một rubicon, thay vì phản đối các chi tiết cụ thể của vấn đề.
Bằng cách bình thường hóa quá trình quét trên thiết bị cho CSAM, các nhà phê bình lo lắng, Apple đã thực hiện một bước nguy hiểm. Từ đây, họ cho rằng, cuộc sống kỹ thuật số của chúng ta được khảo sát, trực tuyến và bật tắt chỉ là một vấn đề về mức độ. Đó là một bước nhỏ theo một hướng để mở rộng quét ngoài CSAM; đó là một bước nhỏ trong một bước khác để mở rộng nó ra ngoài các thư viện ảnh đơn giản; đó là một bước nhỏ trong một bước khác để mở rộng ra ngoài những kết quả phù hợp hoàn hảo của những hình ảnh đã biết.
Apple nhấn mạnh rằng họ sẽ không thực hiện những bước đó. Công ty cho biết: “Apple sẽ từ chối bất kỳ yêu cầu nào như vậy” để mở rộng dịch vụ ra ngoài CSAM. "Chúng tôi đã phải đối mặt với các yêu cầu xây dựng và triển khai các thay đổi do chính phủ ủy quyền làm suy giảm quyền riêng tư của người dùng trước đây và đã kiên quyết từ chối những yêu cầu đó."
Tốt hơn là nó nên quen với việc chiến đấu, bởi vì những yêu cầu đó rất có thể sẽ đến. Ví dụ: ở Vương quốc Anh, một danh sách đen các trang web, được duy trì bởi Internet Watch Foundation, đơn vị anh em của NCMEC ở Anh, chặn quyền truy cập vào CSAM đã biết. Nhưng vào năm 2014, một lệnh tòa cấp cao buộc các nhà cung cấp dịch vụ internet phải thêm một bộ URL mới vào danh sách - các trang web vi phạm bản quyền của nhà sản xuất đồng hồ cao cấp Cartier.
Ở những chỗ khác, có những lo ngại về an ninh đối với hoạt động này. Bất kỳ hệ thống nào liên quan đến việc thực hiện hành động mà chủ sở hữu thiết bị không đồng ý, các nhà phê bình lo sợ, cuối cùng sẽ được sử dụng để gây hại cho họ. Cho dù đó là một lỗ hổng bảo mật thông thường, có khả năng sử dụng hệ thống để hack điện thoại hoặc một cách tinh vi lạm dụng thiết bị quét thực tế để gây hại trực tiếp, họ lo lắng rằng hệ thống sẽ mở ra một "bề mặt tấn công" mới, vì lợi ích nhỏ so với việc thực hiện quét tương tự trên các máy chủ của chính Apple.
Đó là điều kỳ lạ nhất về tin tức này: Apple sẽ chỉ quét tài liệu sắp được tải lên dịch vụ Thư viện ảnh iCloud của mình. Một khi công ty chỉ cần đợi cho đến khi các tệp đã được tải lên, họ sẽ có thể quét chúng mà không cần vượt qua bất kỳ ranh giới nguy hiểm nào. Nhưng thay vào đó, họ đã thực hiện hành động chưa từng có này.
Lý do, Apple nói, là quyền riêng tư. Dường như, công ty chỉ đơn giản coi trọng chiến thắng hùng biện: khả năng nói “chúng tôi không bao giờ quét các tệp bạn đã tải lên”, ngược lại với Google, người không ngừng khai thác dữ liệu người dùng để có được bất kỳ lợi thế nào.
Một số tự hỏi liệu đây có phải là bước dạo đầu cho một động thái tích cực hơn mà Apple có thể thực hiện: mã hóa các thư viện iCloud để không thể quét chúng hay không. Công ty được cho là đã từ bỏ kế hoạch làm điều đó vào năm 2018, sau khi FBI can thiệp.
Kiểm soát của phụ huynh
Quyết định quét thư viện ảnh cho CSAM chỉ là một trong hai thay đổi mà Apple công bố vào thứ Sáu. Điều khác, theo một số cách, đáng quan tâm hơn, mặc dù những tác động ban đầu của nó sẽ bị hạn chế.
Vào mùa thu này, công ty sẽ bắt đầu quét các văn bản được gửi bằng ứng dụng Tin nhắn từ và đến người dùng dưới 17 tuổi. Không giống như quét CSAM, tính năng này sẽ không tìm kiếm kết quả trùng khớp với bất kỳ thứ gì: thay vào đó, nó sẽ áp dụng công nghệ máy học để thử. để phát hiện hình ảnh khiêu dâm. Nếu một người được gửi hoặc nhận, người dùng sẽ nhận được thông báo.
Đối với thanh thiếu niên, cảnh báo sẽ đơn giản là "bạn có chắc không?" biểu ngữ, với tùy chọn để nhấp qua và bỏ qua; nhưng đối với trẻ em dưới 13 tuổi, nó sẽ mạnh hơn một chút, cảnh báo chúng rằng nếu chúng xem tin nhắn, cha mẹ của chúng sẽ được thông báo và một bản sao của hình ảnh sẽ được lưu trên điện thoại của chúng để cha mẹ có thể kiểm tra.
Cả hai tính năng sẽ được phụ huynh chọn tham gia và bị tắt theo mặc định. Không có gì được gửi thông qua tính năng này đến với Apple.
Nhưng, một lần nữa, một số lo ngại. Họ lo sợ rằng việc bình thường hóa loại giám sát này sẽ hoàn tác một cách hiệu quả các biện pháp bảo vệ mà mã hóa end-to-end mang lại cho người dùng: nếu điện thoại của bạn xem trộm tin nhắn của bạn, thì mã hóa sẽ không hoạt động.
Trở nên tốt hơn
Không chỉ các nhà vận động đưa ra những điểm này. Will Cathcart, người đứng đầu WhatsApp, đã phản đối các động thái này, ông viết “Tôi nghĩ đây là cách tiếp cận sai lầm và là bước lùi đối với quyền riêng tư của mọi người trên toàn thế giới. Mọi người đã hỏi liệu chúng tôi có áp dụng hệ thống này cho WhatsApp hay không. Câu trả lời là không".
Nhưng đồng thời, ngày càng có nhiều người ủng hộ Apple - chứ không chỉ từ các nhóm bảo vệ trẻ em đã thúc đẩy các tính năng như thế này trong nhiều năm. Ngay cả những người từ phía công nghệ của cuộc thảo luận cũng chấp nhận rằng có sự đánh đổi thực sự ở đây và không có câu trả lời đơn giản. Alex Stamos, từng là trưởng bộ phận bảo mật của Facebook, viết: “Tôi thấy mình liên tục bị giằng xé giữa việc muốn mọi người có quyền truy cập vào quyền riêng tư bằng mật mã và thực tế về quy mô và mức độ nguy hại đã được kích hoạt bởi các công nghệ kết nối hiện đại.
Tuy nhiên, dù câu trả lời đúng là gì, có một điều có vẻ rõ ràng: Apple có thể đã tham gia cuộc tranh luận này một cách cẩn thận hơn.
Stamos nói thêm: “Một trong những vấn đề cơ bản với cách tiếp cận của Apple là họ có vẻ tuyệt vọng trong việc tránh xây dựng niềm tin và chức năng an toàn thực sự cho các sản phẩm truyền thông của mình.