Khi các tập đoàn công nghệ chạy đua phát triển những hệ thống ngày càng mạnh, an toàn AI không thể đi sau tốc độ đổi mới. Với Việt Nam, phát triển AI vì thế cần đồng thời nâng cao năng lực kiểm soát rủi ro, bảo đảm an ninh, an toàn và phát triển bền vững.
Chỉ trong khoảng 10 ngày, hàng loạt cảnh báo, vụ từ chức và sự cố an ninh đã khiến cuộc đua phát triển trí tuệ nhân tạo chuyển từ câu chuyện công nghệ thành vấn đề mang tính sống còn. Liệu con người còn đủ khả năng kiểm soát những hệ thống AI ngày càng thông minh và tự chủ hay không?
Nvidia đã thúc đẩy sự bùng nổ của trí tuệ nhân tạo (AI) từ trước khi ChatGPT ra mắt vào cuối năm 2022, cung cấp các bộ xử lý đồ họa được OpenAI, Anthropic và các công ty khác sử dụng để huấn luyện mô hình và xử lý các khối lượng công việc lớn. Doanh thu đã tăng vọt lên 215 tỷ USD trong năm tài chính gần nhất, từ mức 17 tỷ USD vào năm 2021.
Các vụ AI tự vượt rào bảo vệ, xâm nhập hệ thống bên ngoài cùng cảnh báo từ giới nghiên cứu khiến lãnh đạo nhiều hãng công nghệ phải kêu gọi giảm tốc phát triển AI.
Trong nhiều năm qua, cuộc đua xây dựng các hệ thống trí tuệ nhân tạo (AI) tuân theo một nguyên tắc quen thuộc của Thung lũng Silicon: hành động nhanh và chấp nhận phá vỡ các giới hạn. Tuy nhiên, chuỗi sự kiện dồn dập kéo dài suốt 10 ngày qua đã khiến các nhà phát triển AI lớn nhất thế giới phải bàng hoàng khi chính những sản phẩm do họ tạo ra được cho là đang đe dọa sự tồn vong của toàn nhân loại.
Trước những cảnh báo nghiêm trọng từ giới chuyên môn về các mối đe dọa tiềm ẩn đối với nhân loại, Thống đốc bang California (Mỹ) Gavin Newsom đã kí sắc lệnh hành pháp yêu cầu giới chức tiểu bang nghiên cứu tính khả thi của cơ chế “tắt nguồn” các mô hình trí tuệ nhân tạo (AI) khi cần thiết.
Tổng thống Mỹ Donald Trump cho biết sẽ bổ nhiệm cố vấn mới và thành lập “lực lượng AI”, nhưng chưa nêu chi tiết. Kế hoạch được công bố giữa lúc lo ngại về an toàn AI gia tăng tại Mỹ.
OpenAI ngày 16/9 thông báo đã phát hiện thêm các trường hợp mô hình AI có hành vi lừa dối và thực hiện những hành động không được phép trong quá trình huấn luyện.
Ngày 16-9, Tổng thư ký Liên hợp quốc Antonio Guterres cảnh báo thế giới không thể để cạnh tranh phát triển trí tuệ nhân tạo (AI) làm suy giảm các tiêu chuẩn an toàn, trong bối cảnh tốc độ phát triển công nghệ đang vượt xa sự hiểu biết về những rủi ro tiềm ẩn.
Hai cựu kỹ sư Google DeepMind lần lượt rời công ty và công khai cảnh báo rủi ro AI, giữa lúc giới nghiên cứu tranh luận về khả năng kiểm soát siêu trí tuệ.
Bài đăng của kỹ sư Liu Shengyu (DeepSeek) chia sẻ góc nhìn nội bộ về nỗi lo AI thế chỗ, sự trăn trở của nhân sự công nghệ Trung Quốc và cảnh báo tập trung quyền lực AI.
Cuộc đua giành vị thế dẫn đầu về trí tuệ nhân tạo (AI) giữa Mỹ và Trung Quốc đang bước sang giai đoạn mới: Dùng AI để phát triển những hệ thống AI tốt hơn.
Microsoft vừa công bố dự thảo bộ quy tắc ứng xử áp dụng trong quá trình huấn luyện các mô hình trí tuệ nhân tạo (AI) mới, giữa lúc những lo ngại về nguy cơ các công ty công nghệ mất kiểm soát đối với sản phẩm AI ngày càng gia tăng. Giám đốc điều hành Microsoft AI Mustafa Suleyman nhấn mạnh: “AI phải phục tùng và luôn phục vụ con người”.
Cựu kỹ sư Google DeepMind, Bilal Chughtai, cảnh báo AI có thể gây ra thảm họa cho nhân loại và cho rằng thế giới có thể không còn nhiều thời gian để kiểm soát rủi ro.
Jensen Huang - CEO Nvidia - bật loa ngoài khi nhận cuộc gọi từ Tổng thống Mỹ Donald Trump tại Hội nghị All-In Summit. Cuộc trao đổi diễn ra giữa lúc giới công nghệ tranh luận về việc có nên làm chậm tốc độ phát triển trí tuệ nhân tạo.
Việc một nhà nghiên cứu rời Anthropic để cảnh báo về nguy cơ của trí tuệ nhân tạo, sau đó lãnh đạo Anthropic, OpenAI và SpacexAI cùng lên tiếng ủng hộ việc điều chỉnh giảm tốc độ phát triển, cho thấy an toàn AI đã trở thành vấn đề quản trị cấp bách.
Một cựu kỹ sư nghiên cứu của Google DeepMind cảnh báo AI có khả năng “giết chết toàn bộ con người” và cho rằng thế giới có thể đang dần hết thời gian để ngăn kịch bản này, giữa lúc các lãnh đạo AI kêu gọi giảm tốc phát triển công nghệ.
Tổng thống Mỹ Donald Trump lên tiếng bảo vệ AI, bác bỏ lo ngại về nguy cơ đối với nhân loại và chỉ trích những cảnh báo là "trò lừa bịp".
Lãnh đạo Nhà trắng bày tỏ hoài nghi việc các doanh nghiệp AI hàng đầu đồng loạt kêu gọi làm chậm sự phát triển của AI...
Trước lời kêu gọi giảm tốc phát triển AI của CEO Anthropic Dario Amodei, Tổng thống Donald Trump bác bỏ và cho rằng công nghệ này chỉ cần được kiểm soát bởi một tổng thống 'mạnh mẽ và thông minh' - điều mà nước Mỹ đã có.
Sự phát triển nhanh chóng của trí tuệ nhân tạo (AI) đang đặt Washington trước một bài toán ngày càng khó: làm thế nào vừa duy trì lợi thế công nghệ, vừa kiểm soát những rủi ro mà chính các nhà phát triển AI hàng đầu cảnh báo có thể vượt khỏi tầm kiểm soát của con người. Theo các chuyên gia, khi nỗi lo về việc làm, chi phí năng lượng và an ninh quốc gia cùng hội tụ, AI có thể trở thành một trong những vấn đề định hình cuộc bầu cử giữa nhiệm kỳ và chính trường Mỹ những năm tới.
Tờ Thời báo Hoàn cầu của Trung Quốc cho rằng, lời kêu gọi của Giám đốc điều hành (CEO) công ty Anthropic về việc làm chậm quá trình phát triển trí tuệ nhân tạo (AI), dù có vẻ là một tuyên bố hợp lý tập trung vào các rủi ro an toàn, thực chất lại là một “chiêu bài kiểu Chiến tranh Lạnh nhắm vào Trung Quốc”.
Những cảnh báo ngày càng dồn dập từ chính các doanh nghiệp dẫn đầu cho thấy cuộc đua AI đang đặt Mỹ trước yêu cầu khó dung hòa giữa thúc đẩy đổi mới và kiểm soát những rủi ro có thể vượt quá khả năng quản lý.
Cho tới nay, các quan chức và nghị sĩ đảng Cộng hòa ở Mỹ vẫn thờ ơ với một loạt cảnh báo đáng chú ý của lãnh đạo các công ty trí tuệ nhân tạo (AI), rằng công nghệ do họ tạo ra có thể sớm vượt khả năng kiểm soát của con người.
Nhiều năm trước, Dario Amodei từng rời bỏ vị trí lãnh đạo cấp cao, đầy quyền lực tại OpenAI vì lo ngại những nguy hiểm tiềm ẩn trong công nghệ mới.
Tổng thống Trump mong muốn duy trì vị thế thống trị toàn cầu về công nghệ, bất chấp hàng loạt cảnh báo nghiêm trọng từ các chuyên gia về những rủi ro mà trí tuệ nhân tạo có thể gây ra.
Trước nguy cơ trí tuệ nhân tạo bị lạm dụng và vượt ngoài khả năng kiểm soát của con người, Tổng giám đốc Anthropic cùng lãnh đạo OpenAI và tỷ phú Elon Musk đồng loạt lên tiếng kêu gọi ngành công nghệ chủ động bước chậm lại để hoàn thiện các biện pháp an toàn.
Cuộc đua AI xuất hiện những lời kêu gọi hiếm hoi từ chính các lãnh đạo hàng đầu trong ngành về việc giảm tốc độ phát triển.
Hai lãnh đạo đứng đầu phòng lab Anthropic và OpenAI công khai ủng hộ việc kìm hãm đà phát triển AI, trước lo ngại công nghệ tiến quá nhanh, vượt tầm kiểm soát con người.
Giám đốc điều hành (CEO) công ty Anthropic Dario Amodei ngày 12/9 kêu gọi các công ty trí tuệ nhân tạo (AI) giảm tốc độ phát triển công nghệ này trong bối cảnh ngày càng gia tăng những lo ngại về các nguy cơ tiềm ẩn của AI.