Ủy ban châu Âu hôm thứ Tư đề xuất quy định mới yêu cầu các công ty công nghệ quét tài liệu lạm dụng tình dục trẻ em (CSAM) và hành vi chải chuốt, làm dấy lên lo ngại rằng nó có thể làm suy yếu mã hóa end-to-end (E2EE).
Vì vậy, các nhà cung cấp dịch vụ trực tuyến, bao gồm dịch vụ lưu trữ và ứng dụng liên lạc, dự kiến sẽ chủ động quét nền tảng của họ để tìm CSAM cũng như báo cáo, xóa và vô hiệu hóa quyền truy cập vào nội dung bất hợp pháp đó.
Mặc dù các dịch vụ nhắn tin tức thời như WhatsApp đã dựa trên các phiên bản đã băm của CSAM đã biết để tự động chặn tải lên hình ảnh hoặc video mới khớp với chúng, nhưng kế hoạch mới yêu cầu các nền tảng như vậy phải xác định và gắn cờ các phiên bản mới của CSAM.
“Các công nghệ phát hiện chỉ được sử dụng cho mục đích phát hiện lạm dụng tình dục trẻ em”, cơ quan quản lý cho biết. “Các nhà cung cấp sẽ phải triển khai các công nghệ ít xâm phạm quyền riêng tư nhất theo quy trình hiện đại của ngành và hạn chế tỷ lệ sai sót của kết quả dương tính giả ở mức tối đa có thể.”
Một Trung tâm mới của EU về lạm dụng tình dục trẻ em, sẽ được thành lập độc lập để thực thi các biện pháp, đã được giao nhiệm vụ duy trì cơ sở dữ liệu về các “chỉ số” kỹ thuật số về lạm dụng tình dục trẻ em, ngoài việc xử lý và chuyển tiếp các báo cáo hợp pháp cho hành động thực thi pháp luật.
Ngoài ra, các quy tắc yêu cầu các cửa hàng ứng dụng phải đảm bảo rằng trẻ em không được tải xuống các ứng dụng “có thể khiến chúng có nguy cơ cao bị gạ gẫm trẻ em.”
Đề xuất gây tranh cãi về việc ngăn chặn tài liệu lạm dụng tình dục được đưa ra vài ngày sau khi một phiên bản dự thảo của quy định bị rò rỉ vào đầu tuần này, khiến nhà nghiên cứu bảo mật Matthew Green của Đại học Johns Hopkins tuyên bố rằng “Đây lại là Apple.”
Gã khổng lồ công nghệ, năm ngoái đã công bố kế hoạch quét và phát hiện CSAM trên các thiết bị của mình, kể từ đó đã trì hoãn việc triển khai để “mất thêm thời gian trong những tháng tới để thu thập thông tin đầu vào và thực hiện các cải tiến”.
Tương tự như vậy, Meta đã hoãn kế hoạch hỗ trợ E2EE trên tất cả các dịch vụ nhắn tin của mình, WhatsApp, Messenger và Instagram, cho đến khoảng năm 2023, tuyên bố rằng họ đang dành thời gian để “làm đúng”.
Mối quan tâm chính về quyền riêng tư và bảo mật phát sinh từ các thiết bị quét các hình ảnh lạm dụng tình dục bất hợp pháp là công nghệ có thể làm suy yếu quyền riêng tư bằng cách tạo các cửa hậu để đánh bại các biện pháp bảo vệ E2EE và tạo điều kiện cho việc giám sát quy mô lớn.
Điều này cũng đòi hỏi quyền truy cập văn bản thuần túy liên tục vào các tin nhắn riêng tư của người dùng, khiến E2EE không tương thích một cách hiệu quả và làm xói mòn tính bảo mật và bí mật của thông tin liên lạc.
“Ý tưởng rằng tất cả hàng trăm triệu người ở EU sẽ có thông tin liên lạc riêng tư thân mật của họ, nơi họ có kỳ vọng hợp lý rằng đó là riêng tư, thay vào đó là loại bừa bãi và thường được quét 24/7 là chưa từng có”, Ella Jakubowska , một cố vấn chính sách tại Quyền Kỹ thuật số Châu Âu (EDRi), nói với Politico.
Nhưng quyền riêng tư được cung cấp bởi mã hóa cũng đang chứng tỏ là một con dao hai lưỡi, với việc các chính phủ ngày càng chống lại những lo lắng rằng các nền tảng mã hóa đang bị lạm dụng bởi các phần tử độc hại để khủng bố, tội phạm mạng và lạm dụng trẻ em.
Ủy ban cho biết: “Mã hóa là một công cụ quan trọng để bảo vệ an ninh mạng và bí mật thông tin liên lạc. “Đồng thời, việc sử dụng nó như một kênh an toàn có thể bị tội phạm lợi dụng để che giấu hành động của chúng, do đó cản trở nỗ lực đưa thủ phạm lạm dụng tình dục trẻ em ra trước công lý.”
Sự phát triển nhấn mạnh các cuộc đấu tranh liên tục của Big Tech để cân bằng quyền riêng tư và bảo mật đồng thời giải quyết nhu cầu hỗ trợ các cơ quan thực thi pháp luật trong nhiệm vụ truy cập dữ liệu tội phạm của họ.
“Đề xuất mới quá rộng, không tương xứng và gây tổn hại đến quyền riêng tư và sự an toàn của mọi người”, Electronic Frontier Foundation (EFF) cho biết. “Các yêu cầu quét phải tuân theo các biện pháp bảo vệ, nhưng chúng không đủ mạnh để ngăn chặn các hành động xâm phạm quyền riêng tư mà các nền tảng sẽ được yêu cầu thực hiện.”
.
