Sáu công ty đã ký một hiệp ước an toàn bao gồm các mối đe dọa về hack và sinh học, không có hình phạt hoặc thời hạn thực hiện việc kiểm tra. OpenAI, Google, Meta và ba công ty công nghệ khác hôm thứ Ba đã đồng ý mời các kiểm toán viên bên ngoài đến để kiểm tra các biện pháp kiểm soát an toàn AI của họ, đồng thời ký một hiệp ước tự nguyện của Nhà Trắng không có hình phạt nếu họ thiếu sót. Tổng thống Donald Trump gọi thỏa thuận này là "ràng buộc về mặt đạo đức". Nó không có cơ chế thực thi chủ nghĩa này và không yêu cầu các công ty công bố hoặc nêu tên các kiểm toán viên. “Và họ hiểu rằng họ phải tự cảnh sát,” Trump nói với các phóng viên sau cuộc họp. Ông cho biết ông sẽ thành lập một hội đồng gồm 10 thành viên để giám sát sự an toàn của AI và bổ nhiệm một quan chức mới của Nhà Trắng để lãnh đạo chính sách AI, và hiệp định cho biết các biện pháp của họ cuối cùng có thể được viết thành luật. Anthropic, Nvidia và xAI của Elon Musk, hiện là một phần của SpaceX, cũng đã ký thỏa thuận vào ngày 29 tháng 9 yếu tố. OpenAI được đại diện bởi Chủ tịch Greg Brockman, cùng với Sundar Pichai của Google, Mark Zuckerberg của Meta, Dario Amodei của Anthropic và Jensen Huang của Nvidia. Tài liệu một trang yêu cầu các công ty giám sát các mô hình có khả năng nhất của họ trong quá trình đào tạo và sử dụng, bao gồm cả việc liệu chúng có thể kích hoạt các cuộc tấn công mạng hoặc các mối đe dọa sinh học và hóa học hay không. Nó đặc biệt yêu cầu các biện pháp kiểm soát để ngăn chặn các mô hình hack hoặc truy cập vào hệ thống máy tính trong những cách ngoài ý muốn. Một nhóm nội bộ sẽ kiểm tra xem các biện pháp bảo vệ đó có hoạt động không và các vấn đề đã được khắc phục chưa. Một kiểm toán viên độc lập sẽ đánh giá các biện pháp kiểm soát, trong khi một ủy ban trong hội đồng quản trị của mỗi công ty sẽ nhận được kết quả và giám sát các biện pháp khắc phục. Điều đó sẽ mang lại cho những người đánh giá bên ngoài vai trò trong việc kiểm tra các biện pháp bảo vệ mà các công ty dựa vào để duy trì các mô hình thử nghiệm. Tuy nhiên, thỏa thuận vẫn để lại quyền lựa chọn kiểm toán viên cho các công ty và không đặt ra quy định nào về việc điều chỉnh để thực hiện các biện pháp. Theo AP, một số bước là những bước mà các công ty đã thực hiện dưới một hình thức nào đó. Đọc thêm: OpenAI cho biết AI 'Astra' mới của họ có thể thực hiện các cuộc tấn công mà không cần sự trợ giúp của con người. Hiệp định diễn ra sau một chuỗi sự cố trong đó các tác nhân AI thử nghiệm đã đột nhập vào các hệ thống máy tính mà chúng không bao giờ được phép truy cập, bao gồm cả các tác nhân thử nghiệm OpenAI đã tiếp cận các máy chủ do Hugging Face điều hành, một nền tảng nơi các nhà phát triển chia sẻ mod AI els. Một đại lý OpenAI cũng đã truy cập vào cổng thông tin Medicare của chính phủ Úc vào tháng 6. 18 mà công ty chỉ tiết lộ cho chính quyền Úc vào tháng 9. Gần hơn với tiền điện tử, AI đã bị nghi ngờ là nguyên nhân gây ra một số mối lo ngại về bảo mật lớn nhất trong năm. Vào tháng 7, những kẻ tấn công bắt đầu quét bitcoin từ ví phần cứng Coldcard thông qua một lỗ hổng phần mềm đã 5 năm tuổi, lấy đi 1.367 BTC trị giá gần 89 triệu USD từ 4.500 địa chỉ trong ba trường hợp. có Inkite, công ty sản xuất ví, sau đó cho biết họ tin rằng ai đó đã sử dụng AI biên giới để xem xét mã công khai của mình, mặc dù điều đó chưa được chứng minh. Vào đầu tháng 8, những kẻ tấn công đã rút hết các nút Lightning chạy qua BTCPay Server, những người bán phần mềm nguồn mở sử dụng để chấp nhận bitcoin, sau khi một lỗ hổng cho phép họ đánh cắp thông tin xác thực kiểm soát các nút đó. Nạn nhân bao gồm Foundation nhà sản xuất ví phần cứng và nhà xuất bản bitcoin Citadel21. Lỗ hổng đã xuất hiện tôi n đánh giá mã BTCPay được hỗ trợ bởi AI và công ty cho biết AI cũng có thể đã được sử dụng để khai thác nó. Nó không tiết lộ số tiền đã được lấy. Cuối tháng đó, hàng loạt báo cáo lỗi do AI tạo ra đã chỉ ra các lỗ hổng thực sự trong Core Lightning, phần mềm được sử dụng để chạy các nút trên mạng thanh toán Lightning của bitcoin, khiến các nhà phát triển của nó phải đưa ra hướng dẫn khẩn cấp cho các nhà khai thác. Cam kết hôm thứ Ba tuân theo các cam kết tự nguyện của chính quyền Biden được tiến hành vào tháng 7 năm 2023 từ bảy nhà phát triển, bao gồm OpenAI, Anthropic, Google và Meta, vào thời điểm đó họ đã tiến hành kiểm tra bảo mật nội bộ và bên ngoài trước khi các mô hình được phát hành.