Liên hợp quốc phát cảnh báo đặc biệt về trí tuệ nhân tạo AGI

Theo tạp chí điện tử VnEconomy, Hội đồng Chủ tịch Đại hội đồng Liên hợp quốc (UNCPGA) vừa công bố một báo cáo đặc biệt về Trí tuệ nhân tạo tổng quát (AGI) - công nghệ được dự đoán có khả năng đạt đến hoặc vượt qua trí thông minh của con người. Báo cáo nhấn mạnh rằng, nếu không có cơ chế kiểm soát phù hợp, sự phát triển của AGI có thể châm ngòi cho những rủi ro “chưa từng có trong lịch sử nhân loại”.

Trong bối cảnh các tập đoàn công nghệ như OpenAI, Google DeepMind, Meta và Anthropic đang chạy đua phát triển AGI, báo cáo cảnh báo cuộc cạnh tranh này có thể đẩy thế giới vào vòng xoáy nguy hiểm nếu thiếu một khuôn khổ quản trị toàn cầu hiệu quả. Điều này có thể làm suy yếu các chuẩn mực an ninh và thổi bùng căng thẳng địa chính trị.

Mặc dù hiện tại chưa có công ty nào chứng minh được sự tồn tại của một AGI, phần lớn các nỗ lực vẫn đang tập trung vào việc mở rộng hệ thống học tập đa phương thức và tăng cường năng lực tổng hợp - những nền tảng để tiến tới AGI. Tuy nhiên, với quy mô đầu tư tài chính khổng lồ và các nỗ lực R&D chưa từng có, công nghệ này được cho là có thể xuất hiện ngay trong thập kỷ này.

Liên hợp quốc phát cảnh báo đặc biệt về trí tuệ nhân tạo AGI. (Ảnh minh họa)

Báo cáo của UNCPGA cũng nhấn mạnh rằng, nếu được kiểm soát đúng cách, AGI có thể mở ra những đột phá lớn trong khoa học, y tế và công nghiệp, từ việc tăng tốc khám phá thuốc chữa bệnh cho đến hỗ trợ đạt được các mục tiêu phát triển bền vững. Tuy nhiên, đi kèm với tiềm năng vượt trội đó là những nguy cơ chưa từng có, đặc biệt là khả năng AGI tự hành động ngoài tầm kiểm soát của con người.

Báo cáo xác định 6 nguy cơ có thể xảy ra trong quá trình phát triển và vận hành AGI: Con người mất khả năng kiểm soát đối với AGI; AGI bị lạm dụng để phát triển vũ khí hủy diệt hàng loạt; Các lỗ hổng nghiêm trọng về an ninh mạng; Bất ổn kinh tế sâu rộng; Sự xuất hiện của các hệ thống AGI tự trị mang nguy cơ tồn vong; Việc bỏ lỡ cơ hội sử dụng AGI để giải quyết các vấn đề toàn cầu cấp bách.

Để giảm thiểu những rủi ro nêu trên, báo cáo đưa ra một loạt đề xuất chiến lược mang tính toàn diện. Theo đó, Liên hợp quốc cần tổ chức một phiên họp đặc biệt của Đại hội đồng nhằm thảo luận chuyên sâu về AGI. Một đài quan sát AGI toàn cầu nên được thành lập để theo dõi tiến trình phát triển và kịp thời nhận diện các rủi ro. Báo cáo cũng nhấn mạnh đến việc xây dựng một hệ thống chứng nhận quốc tế dành cho các hệ thống AGI an toàn và đáng tin cậy. Đồng thời, cần xúc tiến việc soạn thảo một Công ước khung về quản trị AGI dưới sự bảo trợ của Liên hợp quốc, cũng như nghiên cứu khả năng thành lập một cơ quan chuyên trách về AGI thuộc Liên hợp quốc, nhằm điều phối hiệu quả hợp tác quốc tế trong lĩnh vực đầy tiềm năng nhưng cũng nhiều thách thức này.

Thông qua báo cáo, UNCPGA kêu gọi các quốc gia, tổ chức và doanh nghiệp toàn cầu cùng chung tay xây dựng một khuôn khổ quản trị mang tính ràng buộc, nhằm đảm bảo rằng AGI sẽ phục vụ cho lợi ích chung của nhân loại, thay vì trở thành một lực lượng không kiểm soát có thể gây ra hậu quả nghiêm trọng đối với an ninh, kinh tế và tương lai toàn cầu.