Apple vừa mới ra mắt tính năng phát hiện nội dung quấy rối tình dục trẻ em (CSAM) trên iCloud. Tính năng này sẽ được thử nghiệm đầu tiên ở Mỹ và sẽ xuất hiện ở từng quốc gia sau đó dựa trên luật pháp ở từng địa phương.
Chức năng mới trong Messages của Apple nhằm phân tích hình ảnh phản cảm (Nguồn: Apple).
Theo Neowin, là một phần của nỗ lực, Apple sẽ quét nội dung của ứng dụng Messages và iCloud của người dùng bằng cách sử dụng “máy học trên thiết bị”. Apple tuyên bố các công cụ nhằm phát hiện tài liệu lạm dụng tình dục trẻ em, từ đó không cho trẻ tiếp cận với tin nhắn và hình ảnh đó.
Apple cho biết tính năng mới này sẽ được triển khai vào cuối năm nay cho iPhone, iPad và Mac. Sau khi được cập nhật, ứng dụng Messages mới sẽ cảnh báo trẻ em về việc gửi và nhận ảnh khiêu dâm. Ví dụ: khi nhận được một hình ảnh khiêu dâm, điện thoại sẽ hiển thị thông báo “This could be sensitive to view. Are you sure?”. Nếu đứa trẻ vẫn quyết định mở nó, điện thoại có thể thông báo đến phụ huynh của trẻ.
Tính năng an toàn mới cũng sẽ quét các hình ảnh liên quan đến lạm dụng trẻ em trong iCloud Photos của người dùng. Theo công ty, những bức ảnh như vậy được đối sánh bằng “công nghệ mật mã được gọi là giao điểm đặt riêng tư, xác định xem có trùng khớp hay không”. Quá trình này sử dụng dữ liệu của Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột (NCMEC). Apple nói rằng hệ thống sẽ không thể xem nội dung của iCloud Photos trừ khi nó phát hiện các hình ảnh lạm dụng trẻ em. Nó được cho là cung cấp mức độ chính xác cao với khả năng gắn cờ sai với tỷ lệ chưa đến 1/1 tỉ.
Nhưng cũng chỉ sau vài ngày, hơn 5.500 người đã ký thử ngỏ online phản đối tính năng mới này. Con số vẫn đang gia tăng khi thư ngỏ được chia sẻ trên các mạng xã hội.
Theo Will Cathcart, người đứng đầu nền tảng WhatsApp thì ứng dụng sẽ không áp dụng các biện pháp an toàn cho trẻ em mới của Apple để ngăn chặn sự lan truyền của hình ảnh lạm dụng trẻ em. Lý do được đưa ra là Apple xây dựng phần mềm mới này có thể được quét tất cả ảnh riêng tư trên điện thoại của người dùng.
WhatsApp có một hệ thống chống lại việc lạm dụng trẻ em, có tính năng giống như Apple liên quan đến mã hóa, nhưng một phần là sử dụng việc báo cáo của người dùng làm cơ sở để tiếp nhận khoảng hơn 400.000 trường hợp lạm dụng cho trung tâm Quốc gia về trẻ em.
Ngoài WhatsApp, các chuyên gia về công nghệ hay những tổ chức khác cũng đưa ra phản ứng về chính sách mới này của Apple, liệu công nghệ này có bị lạm dụng vào việc khác hay chỉ cố gắng chặn nội dung CSAM.
Electronic Frontier Foundation (EFF), một nhóm quyền kỹ thuật số phi lợi nhuận quốc tế, cho rằng tính năng của Apple sẽ quét tất cả ảnh, khi chúng được tải lên iCloud có khớp với dữ liệu về lạm dụng trẻ em của Trung tâm Quốc gia về Trẻ em mất tích & Bị bóc lột (NCMEC) hay không. Điều này vi phạm về quyền riêng tư và bảo mật, tổ chức này cũng cho rằng Apple đang mở ra cánh cửa để lạm dụng rộng rãi hơn, và giảm đi quyền riêng tư cũng như sự an toàn của người dùng.
Giáo sư Ross Anderson (Đại học Cambridge), cho biết đây là một ý tưởng ''hoàn toàn kinh khủng'', bởi sẽ dẫn đến việc giám sát hàng loạt thiết bị như điện thoại và máy tính xách tay của mọi người.
Trước các ý kiến từ các nhà công nghệ, Apple cho biết công nghệ này được ủy quyền đánh giá kỹ thuật hệ thống từ 3 nhà mật mã độc lập, và đã có những đánh giá từ họ.
