Ngày 13 tháng 4 năm 2023Ravie Lakshmanan bảo mật phần mềm / Săn lỗi
OpenAI, công ty đứng sau chatbot ChatGPT AI cực kỳ phổ biến, đã tung ra một chương trình tiền thưởng lỗi nhằm đảm bảo hệ thống của họ “an toàn và bảo mật”.
Để đạt được mục tiêu đó, nó đã hợp tác với nền tảng bảo mật có nguồn lực từ cộng đồng Bugcrowd để các nhà nghiên cứu độc lập báo cáo các lỗ hổng được phát hiện trong sản phẩm của mình để đổi lấy phần thưởng từ “200 đô la cho những phát hiện có mức độ nghiêm trọng thấp đến 20.000 đô la cho những khám phá đặc biệt”.
Điều đáng chú ý là chương trình không đề cập đến các vấn đề về ảo giác hoặc an toàn của mô hình, trong đó chatbot được nhắc tạo mã độc hoặc các kết quả đầu ra bị lỗi khác. Công ty lưu ý rằng “giải quyết những vấn đề này thường liên quan đến nghiên cứu đáng kể và cách tiếp cận rộng hơn.”
Các danh mục bị cấm khác là các cuộc tấn công từ chối dịch vụ (DoS), API OpenAI cưỡng bức và các cuộc biểu tình nhằm mục đích phá hủy dữ liệu hoặc giành quyền truy cập trái phép vào thông tin nhạy cảm.
“Xin lưu ý rằng thử nghiệm được ủy quyền không miễn trừ cho bạn tất cả các điều khoản dịch vụ của OpenAI”, công ty cảnh báo. “Lạm dụng dịch vụ có thể dẫn đến giới hạn tỷ lệ, chặn hoặc cấm.”
Tuy nhiên, những gì trong phạm vi là các lỗi trong API OpenAI, ChatGPT (bao gồm cả plugin), tích hợp của bên thứ ba, việc hiển thị công khai các khóa API OpenAI và bất kỳ miền nào do công ty vận hành.
Sự phát triển này nhằm đáp ứng với việc OpenAI vá các lỗi tiếp quản tài khoản và lộ dữ liệu trong nền tảng, khiến các cơ quan quản lý bảo vệ dữ liệu của Ý xem xét kỹ hơn nền tảng này.
Cơ quan bảo vệ dữ liệu của Ý đề xuất các biện pháp dỡ bỏ lệnh cấm ChatGPT
Garante, đã áp đặt lệnh cấm tạm thời đối với ChatGPT vào ngày 31 tháng 3 năm 2023, kể từ đó đã vạch ra một loạt các biện pháp mà công ty do Microsoft hậu thuẫn sẽ phải đồng ý thực hiện vào cuối tháng để việc đình chỉ được dỡ bỏ.
“OpenAI sẽ phải soạn thảo và cung cấp trên trang web của mình một thông báo thông tin mô tả các sắp xếp và logic của quá trình xử lý dữ liệu cần thiết cho hoạt động của ChatGPT cùng với các quyền dành cho chủ thể dữ liệu”, Garante cho biết.
Ngoài ra, thông báo thông tin phải có sẵn cho người dùng Ý trước khi đăng ký dịch vụ. Người dùng cũng sẽ cần được yêu cầu khai báo họ trên 18 tuổi.
OpenAI cũng đã được yêu cầu triển khai hệ thống xác minh độ tuổi trước ngày 30 tháng 9 năm 2023, để lọc ra những người dùng dưới 13 tuổi và có sẵn các điều khoản để tìm kiếm sự đồng ý của cha mẹ đối với người dùng từ 13 đến 18 tuổi. Công ty đã có thời gian đến ngày 31 tháng 5 để đệ trình một kế hoạch cho hệ thống giới hạn tuổi.
Là một phần trong nỗ lực thực thi quyền dữ liệu, cả người dùng và người không sử dụng dịch vụ đều có thể yêu cầu “chỉnh sửa dữ liệu cá nhân của họ” trong trường hợp dữ liệu được tạo không chính xác bởi dịch vụ hoặc cách khác, xóa dữ liệu nếu việc chỉnh sửa không khả thi về mặt kỹ thuật.
Theo Garante, những người không phải là người dùng nên được cung cấp thêm các công cụ có thể truy cập dễ dàng để phản đối dữ liệu cá nhân của họ đang được thuật toán của OpenAI xử lý. Công ty cũng dự kiến sẽ chạy một chiến dịch quảng cáo trước ngày 15 tháng 5 năm 2023 để “thông báo cho các cá nhân về việc sử dụng dữ liệu cá nhân của họ cho các thuật toán đào tạo.”
