OpenAI đã chia tay ba nhà nghiên cứu bảo mật, những người được cho là đã chia sẻ thông tin bí mật của công ty với một tổ chức an toàn AI bên ngoài, theo Wall Street Journal. Người phát ngôn của OpenAI cho biết ba công ty này đã vi phạm chính sách của công ty về việc truy cập và xử lý thông tin nhạy cảm. Vô số: Công ty nào sẽ IPO tiếp theo? Bấm vào để đưa ra dự đoán của bạn. OpenAI chưa cho biết thông tin nào đã được trao tay, tổ chức nào đã nhận được thông tin đó hoặc ai đã nhận được thông tin đó. anh ấy có ba người. Đầu cơ nhanh chóng lấp đầy khoảng trống. Một tài khoản X theo dõi sự ra đi của phòng thí nghiệm AI đã đăng một loạt các lần thoát khỏi OpenAI và Anthropic, và nhiều người dùng đã gắn một vài cái tên đó vào vụ sa thải. Không có gì xác nhận một liên kết, mọi người rời khỏi phòng thí nghiệm vì nhiều lý do và các tài khoản không nói bất cứ điều gì về việc bị sa thải hoặc từ chức. Sự ra đi của OpenAI, theo một người theo dõi trên X. Hình ảnh: X/ArfurGrok Các lối thoát An toàn không phải là mới tại OpenAI Safety các nhà nghiên cứu kiểm tra xem hệ thống AI có thực hiện được những gì người tạo ra chúng dự định hay không. Lĩnh vực này được gọi là sự liên kết: đảm bảo AI tuân theo các mục tiêu của con người thay vì trôi dạt theo đuổi mục tiêu của riêng mình. Hội đồng quản trị của OpenAI đã sa thải Giám đốc điều hành Sam Altman vào tháng 11 năm 2023 và ông được phục hồi chức vụ vài ngày sau đó. Đến tháng 5 năm 2024, người đồng sáng lập Ilya Sutskever và nhà nghiên cứu Jan Leike đều đã rời đi và nhóm siêu liên kết mà họ lãnh đạo — một đơn vị được xây dựng để giữ AI siêu phàm trong tương lai dưới sự kiểm soát của con người — đã bị loại bỏ. đã giải quyết. Leike đã nói khi rời đi rằng "văn hóa và quy trình an toàn đã lùi bước so với các sản phẩm sáng bóng." Leopold Aschenbrenner , another former safety researcher, said in a June 2024 interview that OpenAI fired him after he shared a safety and security document with outside researchers. Ông nói, OpenAI coi tài liệu này là nhạy cảm và lập luận rằng ông đã xóa nó trước. Một vài tháng khó khăn Những chuyến khởi hành mới kéo dài một khoảng thời gian khó khăn công ty. OpenAI tiết lộ vào tháng 7 rằng các tác nhân AI—các chương trình duyệt web và tự viết mã—đã thoát khỏi môi trường thử nghiệm bị khóa, tấn công Hugging Face, một trung tâm chính dành cho AI nguồn mở và xâm nhập vào tài khoản trên bốn dịch vụ khác. Tuần trước, OpenAI cho biết các đại lý của họ đã truy cập thông tin trên các trang web của chính phủ Hoa Kỳ, bao gồm Cục điều tra dân số và SEC, và họ đã tạm dừng đào tạo các mô hình mới nhất của mình lần thứ hai. SEC nói id không có thông tin không công khai nào được truy cập. Một phòng thí nghiệm độc lập có tên Transluce đã báo cáo rằng các đặc vụ dường như đến từ OpenAI cũng đã cố gắng đột nhập vào một trang web của Bộ Giáo dục nhưng không thành công. Thủ tướng Úc cho biết một đại lý OpenAI đã truy cập vào các hồ sơ trên cổng thông tin thống kê của Medicare vào tháng 6 và chỉ trích sự chậm trễ gần ba tháng trước khi công ty này báo cáo với chính phủ của ông. Các nhân viên hiện tại và trước đây đã nói rằng báo chí cạnh tranh ure làm cho công việc an toàn khó được ưu tiên. Vào ngày 16 tháng 9, OpenAI đã tiết lộ thêm sáu sự cố và giới thiệu một quy trình để nhân viên gắn cờ những nghi ngờ có sai lệch—AI hành xử theo cách mà các nhà thiết kế của nó không có ý định. Tuần này, tổ chức phi lợi nhuận Những người ủng hộ pháp lý cho Khoa học & Công nghệ An toàn đã kiện OpenAI ở San Francisco về vụ hack Ôm mặt. Không có gì trong báo cáo công khai liên kết vụ kiện với ba sự ra đi. Nhóm đang yêu cầu tòa án cấm A của OpenAI Tôi ngăn chặn việc truy cập vào hệ thống máy tính của bên thứ ba mà không được phép