Ngày 03 tháng 4 năm 2023Ravie LakshmananTrí tuệ nhân tạo / An toàn dữ liệu
Cơ quan giám sát bảo vệ dữ liệu của Ý, Garante per la Protezione dei Dati Personali (hay còn gọi là Garante), đã áp đặt lệnh cấm tạm thời đối với dịch vụ ChatGPT của OpenAI tại quốc gia này, với lý do lo ngại về bảo vệ dữ liệu.
Cuối cùng, nó đã ra lệnh cho công ty ngừng xử lý dữ liệu của người dùng ngay lập tức, cho biết họ dự định điều tra công ty về việc liệu nó có xử lý dữ liệu đó một cách bất hợp pháp, vi phạm luật Quy định bảo vệ dữ liệu chung của EU (GDPR) hay không.
“Không có thông tin nào được cung cấp cho người dùng và chủ thể dữ liệu có dữ liệu được thu thập bởi Open AI”, Garante lưu ý. “Quan trọng hơn, dường như không có cơ sở pháp lý nào làm cơ sở cho việc thu thập và xử lý dữ liệu cá nhân khổng lồ để ‘đào tạo' các thuật toán mà nền tảng này dựa vào.”
ChatGPT, được ước tính đã đạt hơn 100 triệu người dùng hoạt động hàng tháng kể từ khi phát hành vào cuối năm ngoái, đã không tiết lộ những gì nó đã sử dụng để đào tạo mô hình ngôn ngữ lớn (LLM) mới nhất của mình, GPT-4 hoặc cách nó đào tạo nó.
Điều đó nói rằng, GPT-3 tiền thân của nó sử dụng văn bản có nguồn gốc từ sách, Wikipedia và Thu thập thông tin chung, phần sau duy trì một “kho lưu trữ dữ liệu thu thập thông tin web mở mà bất kỳ ai cũng có thể truy cập và phân tích.”
Garante cũng chỉ ra việc thiếu bất kỳ hệ thống xác minh độ tuổi nào để ngăn trẻ vị thành niên truy cập dịch vụ, có khả năng khiến chúng gặp phải những phản hồi “không phù hợp”. Chatbot riêng của Google, được gọi là Bard, chỉ dành cho người dùng trên 18 tuổi.
Ngoài ra, cơ quan quản lý đã đặt ra câu hỏi về tính chính xác của thông tin mà ChatGPT đưa ra, đồng thời nhấn mạnh một vụ vi phạm dữ liệu mà dịch vụ gặp phải vào đầu tháng này đã làm lộ tiêu đề trò chuyện và thông tin liên quan đến thanh toán của một số người dùng.
Để đáp lại đơn đặt hàng, OpenAI đã chặn không cho người dùng có địa chỉ IP của Ý truy cập vào chatbot AI tổng quát của mình. Nó cũng cho biết họ sẽ hoàn lại tiền cho những người đăng ký ChatGPT Plus, ngoài việc tạm dừng gia hạn đăng ký.
Công ty có trụ sở tại San Francisco nhấn mạnh thêm rằng họ cung cấp ChatGPT tuân thủ GDPR và các luật về quyền riêng tư khác. ChatGPT đã bị chặn ở Trung Quốc, Iran, Bắc Triều Tiên và Nga.
Trong một tuyên bố được chia sẻ với reuters, OpenAI cho biết họ tích cực làm việc để “giảm dữ liệu cá nhân trong việc đào tạo các hệ thống AI của chúng tôi như ChatGPT vì chúng tôi muốn AI của mình tìm hiểu về thế giới chứ không phải về các cá nhân.”
OpenAI có 20 ngày để thông báo cho Garante về các biện pháp mà họ đã thực hiện để tuân thủ hoặc có nguy cơ đối mặt với khoản tiền phạt lên tới 20 triệu euro hoặc 4% tổng doanh thu hàng năm trên toàn thế giới, tùy theo mức nào cao hơn.
Tuy nhiên, lệnh cấm dự kiến sẽ không ảnh hưởng đến các ứng dụng từ các công ty khác sử dụng công nghệ của OpenAI để tăng cường dịch vụ của họ, bao gồm công cụ tìm kiếm Bing của Microsoft và các dịch vụ Copilot của nó.
Sự phát triển cũng diễn ra khi Europol cảnh báo rằng các LLM như ChatGPT có thể giúp tạo mã độc, tạo điều kiện cho gian lận và “cung cấp cho bọn tội phạm những cơ hội mới, đặc biệt là đối với các tội phạm liên quan đến kỹ thuật xã hội, nhờ khả năng phản hồi tin nhắn theo ngữ cảnh và áp dụng cách viết cụ thể”. phong cách.”
Đây không phải là lần đầu tiên các công ty tập trung vào AI lọt vào tầm ngắm. Năm ngoái, công ty nhận dạng khuôn mặt gây tranh cãi Clearview AI đã bị nhiều cơ quan quản lý châu Âu phạt vì xóa ảnh công khai của người dùng mà không có sự đồng ý đào tạo dịch vụ khớp danh tính của họ.
Nó cũng đã vi phạm luật riêng tư ở Úc, Canada và Hoa Kỳ, với một số quốc gia yêu cầu công ty xóa tất cả dữ liệu mà nó thu được theo cách như vậy.
Clearview AI nói với BBC News tuần trước rằng họ đã thực hiện gần một triệu lượt tìm kiếm các cơ quan thực thi pháp luật Hoa Kỳ, mặc dù bị cấm vĩnh viễn bán cơ sở dữ liệu khuôn mặt của mình trong nước.
