Cảnh báo của cựu nhà nghiên cứu Anthropic Jacob Coxon về nguy cơ AI có thể đe dọa sự tồn tại của nhân loại trước năm 2030 đang gây tranh luận trên mạng xã hội.
AI đang bước vào giai đoạn phát triển mới khi không chỉ thực hiện nhiệm vụ do con người giao mà còn có thể tham gia cải tiến chính những hệ thống AI đang vận hành. Khả năng này đang làm dấy lên cuộc tranh luận về “tự cải thiện đệ quy” và giới hạn kiểm soát của con người.
Josh Achiam, người có gần một thập kỷ gắn bó với OpenAI, nhận định thế giới sẽ sớm xuất hiện những AI nổi loạn tự tìm cách nhân bản, gom tiền bạc và quyền lực nằm ngoài tầm kiểm soát của con người, dù ông tin tình thế vẫn chưa đến mức tuyệt vọng.
Chính quyền Tổng thống Donald Trump ngày 28-2 yêu cầu tất cả các cơ quan liên bang ngừng sử dụng công cụ AI của Anthropic, sau khi công ty này từ chối nới lỏng các 'rào chắn an toàn' trong điều khoản sử dụng công nghệ AI.
Cư sĩ Chris Scammell cho biết ông vô cùng lo ngại về sự phát triển chóng mặt của AI, đặc biệt là khi những người 'không mấy nổi tiếng' như ông và bạn bè lại 'có rất nhiều việc phải đóng góp cho sự an toàn của AI trong một thời gian ngắn'.
Hơn 850 nhân vật có tầm ảnh hưởng đồng loạt ký tên yêu cầu cấm phát triển trí tuệ nhân tạo siêu việt con người cho đến khi an toàn.
Trí tuệ nhân tạo (AI) đang trở thành một trong những vấn đề trọng tâm của chính sách toàn cầu khi các chính phủ tìm cách định hình quy định quản lý công nghệ này.
Công nghệ trí tuệ nhân tạo (AI) phát triển với tốc độ rất nhanh chóng trong những năm qua và đang ngày càng được ứng dụng rộng rãi, có hiệu quả trong nhiều lĩnh vực của kinh tế-xã hội, an ninh-quốc phòng… Song cùng với đó, AI cũng tiềm ẩn nhiều nguy cơ, rủi ro, trong đó có vấn đề bảo vệ an ninh quốc gia, đang khiến các quốc gia đặc biệt quan tâm nhằm quản lý và sử dụng AI an toàn, hiệu quả.
'Đưa AI vào vũ khí khiến nhân loại khó kiểm soát quỹ đạo công nghệ. Các bên không có nhiều thời gian để nghĩ về hướng tiếp cận an toàn nhất, mà chỉ tìm cách nhanh nhất để giành ưu thế chiến thắng', Jaan Tallinn nói.
'Hệ thống AI hiện nay vẫn chưa thể xóa sổ loài người. Nhưng trong 1, 2 hay 5 năm nữa thì chưa chắc', Yoshua Bengio - Giáo sư tại Đại học Montreal - bày tỏ lo ngại.
Trái với những lời cảnh báo AI sẽ hủy diệt nhân loại xuất hiện trên khắp mạng xã hội, nhiều nhà nghiên cứu lại cho rằng sự xuất hiện của AI với khả năng tiêu diệt con người chỉ là mối lo sợ không dựa trên cơ sở thực tế.
Trong khi một số chuyên gia công nghệ kêu gọi các nhà nghiên cứu ngừng thúc đẩy sự phát triển của trí tuệ nhân tạo, 'cha đẻ của AI' cho rằng hành động này là sai lầm.
Nhóm 7 quốc gia có nền kinh tế phát triển nhất thế giới (G7), bao gồm Anh, Canada, Đức, Mỹ, Nhật Bản, Pháp và Italy đã đồng ý thúc đẩy sử dụng trí tuệ nhân tạo (AI) một cách có trách nhiệm, trước những lo ngại về quyền riêng tư và khả năng bị sử dụng sai gia tăng.
Giáo sư ngành luật Jonathan Turley bị ChatGPT đưa vào danh sách những học giả từng quấy rối người khác, dù ông hoàn toàn vô tội.
Giáo sư luật Jonathan Turley bất bình khi ChatGPT cáo buộc ông có hành vi tấn công tình dục, lấy dẫn chứng từ một bài báo chưa từng tồn tại.
Bức thư có chữ ký của Elon Musk và nhiều nhân vật công nghệ ngay lập tức gây ra làn sóng phẫn nộ, khi một số người cho biết họ đã bị mạo danh để ký tên.
Ông Elon Musk, CEO Công ty xe điện Tesla; ông Steve Wozniak, nhà đồng sáng lập hãng công nghệ Apple; ông Yoshua Bengio, một trong những người tiên phong phát triển công nghệ trí tuệ nhân tạo (AI), nằm trong số các chuyên gia và lãnh đạo công nghệ cùng ký bức thư ngỏ đề nghị tạm ngừng ngay lập tức các thử nghiệm AI ngoài kiểm soát trong 6 tháng.
Là một trong những cái tên hàng đầu trong việc phát triển trí tuệ nhân tạo cho xe điện nhưng mới đây Giám đốc điều hành Tesla, Elon Musk, và một nhóm 100 các chuyên gia về trí tuệ nhân tạo đã bất ngờ lên tiếng kêu gọi tạm dừng sáu tháng trong việc phát triển các hệ thống mạnh hơn GPT-4 mới ra mắt của OpenAI vì những rủi ro tiềm ẩn đối với xã hội và nhân loại.
Tỷ phú Elon Musk và một nhóm các chuyên gia về AI cũng như các giám đốc công ty đang kêu gọi dừng trong 6 tháng việc phát triển các hệ thống mạnh hơn thế hệ thứ tư của mô hình ngôn ngữ GPT-4.
Từng là người đồng sáng lập nên ChatGPT, tuy nhiên tỷ phú Elon Musk vẫn luôn bày tỏ quan ngại về AI và so sánh công nghệ này còn nguy hiểm hơn cả đầu đạn hạt nhân.
Hơn 1000 chuyên gia trong giới công nghệ, trong đó có cả tỷ phú Elon Musk, ông Steve Wozniak (Co-founder Apple) đã ký vào bức thư kêu gọi các công ty tạm dừng phát triển các công cụ AI tiên tiến trong vòng 6 tháng.
Elon Musk và một nhóm các chuyên gia trí tuệ nhân tạo và giám đốc điều hành ngành đang kêu gọi tạm dừng việc phát triển các hệ thống mạnh hơn GPT-4 mới ra mắt của OpenAI, viện dẫn những rủi ro tiềm ẩn đối với xã hội và nhân loại.