Điểm chính:
- OpenAI, được Microsoft hậu thuẫn, thông báo đã thành lập một ủy ban an toàn mới và bắt đầu đào tạo mô hình trí tuệ nhân tạo (AI) tiếp theo.
- Ủy ban An toàn và Bảo mật do Giám đốc điều hành Sam Altman và các thành viên hội đồng quản trị khác chỉ đạo, sẽ đưa ra khuyến nghị cho tất cả các dự án.
- Ủy ban này có thể giúp xoa dịu những lo ngại về tính an toàn của AI và giảm bớt những lo ngại về sự xáo trộn nội bộ tại OpenAI sau sự ra đi của một số nhà khoa học cấp cao và sự giải thể của nhóm “Superalignment”.
- Những lo ngại về tính an toàn của AI có thể ảnh hưởng đến OpenAI và Microsoft khi công nghệ AI phát triển.
OpenAI thành lập Ủy ban An toàn và Bảo mật mới
OpenAI, được Microsoft hậu thuẫn, thông báo hôm thứ Ba rằng họ đã thành lập một ủy ban an toàn mới và bắt đầu đào tạo mô hình trí tuệ nhân tạo (AI) tiếp theo. Ủy ban này có thể giúp nâng cao nhận thức về khả năng lãnh đạo của OpenAI bằng cách xoa dịu những lo ngại về tính an toàn của AI cũng như giảm bớt lo lắng về sự xáo trộn nội bộ sau sự ra đi của một số nhà khoa học cấp cao và sự giải thể của nhóm “Superalignment” trước đây.
Mục tiêu và vai trò của Ủy ban An toàn và Bảo mật
Hội đồng quản trị của OpenAI đã thành lập Ủy ban An toàn và Bảo mật do Giám đốc điều hành Sam Altman, Chủ tịch hội đồng quản trị Bret Taylor và các thành viên hội đồng quản trị Adam D’Angelo và Nicole Seligman chỉ đạo. Ủy ban này “có trách nhiệm đưa ra các khuyến nghị về các quyết định quan trọng về an toàn và bảo mật cho tất cả các dự án của OpenAI” với các khuyến nghị được đưa ra trong vòng 90 ngày.
Đào tạo mô hình AI mới
OpenAI cũng cho biết họ đã “bắt đầu đào tạo mô hình biên giới tiếp theo” và dự đoán rằng “các hệ thống kết quả sẽ đưa OpenAI lên một tầm cao mới về khả năng”.
Xoa dịu mối lo ngại về an toàn AI và sự xáo trộn nội bộ
Việc thành lập ủy ban mới có thể giúp xoa dịu những lo ngại về an toàn AI sau các báo cáo cho biết OpenAI đã giải thể nhóm “Superalignment” – nhóm tập trung vào việc liên kết các hệ thống AI để đảm bảo an toàn. Nhóm Superalignment được giới thiệu vào tháng 7 năm 2023, và OpenAI cho biết họ sẽ dành 20% sức mạnh tính toán của mình để quản lý rủi ro và giải quyết các vấn đề liên kết siêu trí tuệ.
Nhóm này được đồng lãnh đạo bởi nhà đồng sáng lập và nhà khoa học trưởng của OpenAI là Ilya Sutskever và nhà nghiên cứu Jan Leike, cả hai đều đã tuyên bố rời khỏi OpenAI vào đầu tháng này. Leike đã tuyên bố từ chức trên trang X của Elon Musk (trước đây là Twitter), nói rằng “OpenAI phải trở thành một công ty AGI coi trọng sự an toàn” vì “trong những năm qua, văn hóa và quy trình an toàn đã phải nhường chỗ cho những sản phẩm sáng bóng”. Sau khi rời OpenAI, Leike tuyên bố rằng ông sẽ gia nhập Anthropic do Amazon hậu thuẫn để “làm việc về giám sát có thể mở rộng quy mô, khái quát hóa từ yếu đến mạnh và nghiên cứu căn chỉnh tự động”.
Tác động đối với Microsoft và nhận thức về OpenAI
Sự ra đi của các nhân viên cấp cao đã làm dấy lên đồn đoán về sự xáo trộn nội bộ tại OpenAI và những lo ngại về tính an toàn của AI có thể đe dọa làm suy yếu vị thế của OpenAI với tư cách là công ty đi đầu trong lĩnh vực AI. Nhận thức về nhà sản xuất ChatGPT cũng có thể ảnh hưởng đến nhà đầu tư lớn nhất của họ, Microsoft. Công ty công nghệ lớn này đã khẳng định vị thế của mình trong kỷ nguyên AI thông qua khoản đầu tư vào OpenAI khi họ cũng đang thực hiện các sáng kiến AI của riêng mình.
Tin tức mới nhất được đưa ra khoảng sáu tháng sau khi OpenAI sa thải và thuê lại CEO Sam Altman, làm dấy lên lo ngại về khả năng quản lý của OpenAI và sự tham gia của Microsoft.
Những động thái chiến lược này cho thấy OpenAI không chỉ đang nỗ lực phát triển các mô hình AI mới mà còn chú trọng đến việc đảm bảo an toàn và ổn định nội bộ. Điều này không chỉ giúp củng cố niềm tin của công chúng vào khả năng lãnh đạo của OpenAI mà còn có thể mang lại lợi ích cho các đối tác và nhà đầu tư như Microsoft.
(Nguồn: Tổng hợp)
