Vào ngày thứ Ba 11/4/2023, OpenAI đã công bố một chương trình thưởng tiền cho những người phát hiện ra lỗ hổng trong ChatGPT, plugin OpenAI, API OpenAI và các dịch vụ liên quan khác, với mức tiền thưởng từ 200 đến 20.000 đô la Mỹ. “Chúng tôi trân trọng mời các bạn báo cáo các lỗ hổng, lỗi hoặc sự cố bảo mật mà bạn phát hiện được trong hệ thống của chúng tôi”, như thông báo đã đưa ra. “Việc chia sẻ những phát hiện này sẽ đóng một vai trò quan trọng trong việc làm cho công nghệ của chúng tôi trở nên an toàn hơn cho tất cả mọi người.”
Sau vụ vi phạm dữ liệu và nỗi lo ngại về rủi ro quyền riêng tư, OpenAI đã cho ra mắt chương trình tiền thưởng tìm lỗi. Vài tuần trước đó, đã phát hiện ra một lỗ hổng đã làm tiêu đề trò chuyện, tin nhắn đầu tiên của cuộc trò chuyện mới và thông tin thanh toán từ người dùng ChatGPT Plus bị lộ. Đối với ChatGPT, OpenAI đã nghiêm ngặt trong việc bảo vệ dữ liệu người dùng, đặc biệt là đối với trẻ em, và vì vấn đề này, ChatGPT đã bị cấm ở Ý. Những vấn đề này, cùng với bức thư ngỏ được ký tên bởi Steve “Woz” Wozniak và Elon Musk kêu gọi tạm dừng các hệ thống AI trong sáu tháng, dường như đã khiến OpenAI cam kết với sự an toàn của mình.
OpenAI đã triển khai chương trình tiền thưởng lỗi, được quản lý bởi Bugcrowd, nhằm tìm kiếm và xử lý các lỗi được phát hiện trong ChatGPT, plugin OpenAI, API OpenAI và các dịch vụ liên quan khác. Số tiền thưởng sẽ phụ thuộc vào mức độ nghiêm trọng của lỗi. Tuy nhiên, những hành động không được khen thưởng, như bẻ khóa, “khiến người mẫu nói xấu bạn” hay tạo ra ảo giác rõ ràng, sẽ không được chấp nhận. Ngoài ra, những cuộc tấn công có thể “làm suy giảm, làm gián đoạn hoặc tác động tiêu cực đến dịch vụ hoặc trải nghiệm người dùng”, chẳng hạn như tấn công Từ chối dịch vụ (DDoS) hoặc lừa đảo kỹ thuật xã hội hoặc lừa đảo, cũng sẽ không được khen thưởng.
Đến thời điểm hiện tại, đã có bốn lỗi được tìm thấy và khen thưởng. Sự kiện này đánh dấu sự khởi đầu cho một cuộc săn lùng lỗi mới.