DeepMind công bố lộ trình từ AGI đến ASI: 4 con đường, vô số rủi ro

TL;DR

• Google DeepMind công bố paper 60 trang "From AGI to ASI" (arXiv:2606.12683) - 14 nhà nghiên cứu, dẫn đầu bởi Tim Genewein cùng Shane Legg (đồng sáng lập DeepMind) và Allan Dafoe (AI governance).
• ASI được định nghĩa lại: không chỉ giỏi hơn một người, mà phải vượt qua nhận thức của cả một tổ chức lớn của con người - mức bar cao hơn nhiều so với cách dùng từ "superhuman" thông thường.
• 4 con đường không loại trừ nhau: Scaling - Thuật toán mới - Tự cải tiến đệ quy - Tập thể đa agent.
• Chuyển đổi sang ASI sẽ là chuỗi gián đoạn liên tiếp, không phải một sự kiện đột ngột duy nhất.
• Đây là tài liệu lý thuyết - không công bố mốc kỹ thuật hay benchmark cụ thể nào.

Bối cảnh: Bài báo không tồn tại đơn lẻ

Trong khoảng 18 tháng qua, Google DeepMind đã xây dựng một chương trình nghiên cứu có cấu trúc rõ ràng về tương lai của AI - theo thứ tự: đầu tiên định nghĩa AGI là gì, sau đó tìm cách đảm bảo an toàn cho nó, rồi vẽ bản đồ những gì đến sau nó.

Paper hiện tại là bước thứ ba và cuối cùng trong chuỗi đó. Nó không hỏi "AI có nguy hiểm không" - câu hỏi đó đã được trả lời ở bước trước. Thay vào đó, nó hỏi: sau khi AGI tồn tại và hoạt động an toàn, cơ chế cụ thể nào có thể đẩy nó đến superintelligence?

Phạm vi cố ý là lý thuyết - không công bố mốc năng lực cụ thể nào. Nhưng việc một frontier lab xuất bản taxonomy có cấu trúc về post-AGI trajectories đã thay đổi baseline cho các cuộc thảo luận chính sách: các chính phủ và cơ quan tiêu chuẩn trước đây phải làm việc với ngôn ngữ mơ hồ như "AI transformative" - giờ họ có một framework từ lab kiểm soát một số model mạnh nhất thế giới.

Bốn con đường từ AGI đến ASI

Paper không dự đoán con đường nào sẽ "thắng" - thực tế, các tác giả cho rằng con đường thực tế đến ASI sẽ kết hợp cả bốn hướng. Mỗi hướng có rủi ro riêng và điểm can thiệp riêng.

1. Scaling - Mở rộng quy mô

Con đường trực quan nhất: thêm compute, model lớn hơn, dữ liệu nhiều hơn. Đây là chiến lược đã thúc đẩy mọi bước nhảy vọt AI lớn trong những năm gần đây - từ các GPT-style language model đến Gemini. Tuy nhiên, paper cảnh báo rõ ràng: scaling một mình có thể không đủ. Có dấu hiệu lợi nhuận giảm dần ở một số mức năng lực, và một số tác vụ nhận thức đòi hỏi thay đổi kiến trúc định tính chứ không chỉ mở rộng quy mô. Paper coi scaling là điều kiện cần nhưng chưa chắc là điều kiện đủ - và có khả năng nó sẽ tương tác với ba hướng còn lại.

2. Algorithmic Improvements - Thuật toán mới

Thay vì làm model lớn hơn, bạn phát minh ra cách tiếp cận hoàn toàn khác. Lịch sử AI cho thấy các bước nhảy năng lực lớn nhất đến từ đột phá thuật toán - attention mechanism, transformer architecture, RLHF, chain-of-thought prompting. Mỗi bước đó nén lượng compute cần thiết để đạt cùng kết quả xuống đáng kể, tạo ra bước nhảy không liên tục trong năng lực. Một thuật toán tốt hơn đạt kết quả tương đương model lớn gấp 10 lần là bước tiến thực sự. Paper xếp đây là hướng khả thi nhưng vốn bất định - vì theo định nghĩa, bạn không thể lên lịch cho một đột phá.

3. Recursive Self-Improvement - Tự cải tiến đệ quy

Đây là nơi paper bước vào địa hạt từng bị coi là suy đoán thuần túy. Khi một hệ thống AI đủ thông minh tổng quát, nó có thể bắt đầu tối ưu hóa kiến trúc, phương pháp huấn luyện, hoặc cơ chế lý luận của chính mình. Mỗi lần cải tiến làm lần tiếp theo dễ hơn - tạo ra vòng phản hồi mà I.J. Good gọi là "intelligence explosion" từ thập niên 1960.

Paper không coi đây là điều tất yếu hay sắp xảy ra. Nhưng ghi nhận nó nghiêm túc vì hệ quả lý thuyết quá lớn. Hiện tại, LLM đã được dùng để viết code, đề xuất cải tiến huấn luyện, đánh giá output của model khác - chưa đủ để thành vòng lặp tự cải tiến thực sự, nhưng khoảng cách đang thu hẹp. Đây cũng là con đường mang rủi ro kiểm soát cao nhất: nếu một hệ thống có thể tự sửa đổi ngoài tầm giám sát của con người, khả năng duy trì human oversight giảm xuống nhanh chóng.

4. Multi-Agent Collectives - Tập thể đa agent

Thay vì một superintelligence monolithic duy nhất, ASI có thể nổi lên từ mạng lưới lớn các agent cấp AGI hoạt động phối hợp. Trí thông minh tập thể của hệ thống vượt qua bất kỳ agent đơn lẻ nào - không phải vì một node vượt ngưỡng, mà vì sự phối hợp, chuyên môn hóa, và các động lực nổi lên của mạng. Paper xác định đây là con đường thực tế và xây dựng được nhất ngay lúc này - các hệ thống multi-agent đang được triển khai trong môi trường doanh nghiệp thực tế hôm nay. Nếu các hệ thống đó đủ mạnh, đủ phối hợp, và đủ nhiều, output tập thể có thể vượt ngưỡng ASI ngay cả khi không có node đơn lẻ nào đạt đến đó.

ASI không phải là một sự kiện đột ngột

Một trong những nhận định nổi bật nhất của paper là về cấu trúc chuyển đổi: bức tranh thông thường về một "AGI step change" đột ngột có thể sai về cơ bản. Các tác giả cho rằng xã hội nên chuẩn bị cho một loạt gián đoạn liên tiếp, liên tục được khuếch đại trên khoa học và công nghệ - mỗi cái đến trước cái trước đó được hấp thụ hoàn toàn.

Điều này thay đổi hoàn toàn bài toán chính sách. Thay vì thiết kế cho một sự chuyển đổi cấp tính duy nhất, các tổ chức sẽ cần quản lý gián đoạn liên tục, đồng thời trên nhiều lĩnh vực. Không có "thời điểm AGI" để chuẩn bị - chỉ có luồng chuyển đổi không ngừng.

Rủi ro riêng của từng hướng

Paper không chỉ vẽ bản đồ - nó phân tích rủi ro an toàn theo từng con đường:

• Scaling: Hành vi nổi lên không được thiết kế hoặc dự đoán; bước nhảy năng lực có thể vượt qua tốc độ nghiên cứu an toàn.
• Algorithmic Improvements: Bước nhảy không liên tục đột ngột khiến dự báo AI khó khăn; safety research có thể không theo kịp tốc độ.
• Recursive Self-Improvement: Mất kiểm soát của con người nếu hệ thống có thể tự sửa đổi ngoài tầm giám sát - rủi ro nghiêm trọng nhất trong bốn hướng.
• Multi-Agent Collectives: Misalignment ở cấp hệ thống - một mạng các agent được căn chỉnh riêng lẻ đúng vẫn có thể tập thể theo đuổi mục tiêu ngoài ý muốn.

Điều bài báo không trả lời được

Paper thừa nhận thẳng thắn: "Uncertainties lớn khiến không thể loại trừ cả gia tốc nhanh lẫn trì trệ kéo dài." Mỗi con đường đối mặt với ma sát và nút cổ chai tiềm năng. Liệu những ma sát đó là "không đáng kể hay đáng kể" - nguyên văn bài báo - vẫn là câu hỏi nghiên cứu mở.

Một khoảng trống quan trọng khác: paper kết thúc bằng nhận định rằng chuẩn bị cho những kết quả này đòi hỏi nỗ lực phối hợp toàn cầu trên nhiều lĩnh vực - nhưng không chỉ rõ cơ chế hay tổ chức cụ thể nào được yêu cầu. Đó là khoảng cách giữa bài báo nghiên cứu và bản đồ chính sách thực tế.

Góc nhìn

Điều khiến paper này đáng đọc không phải là nó trả lời bất kỳ điều gì - mà là chất lượng của câu hỏi nó đặt ra và sự chính xác của cách đặt câu hỏi đó. Thay vì nói mơ hồ về "tiến bộ AI theo cấp số nhân", nó xác định bốn cơ chế cụ thể và phân tích từng cái trong thực tế.

Nhưng cũng có một nghịch lý đáng chú ý: lab công bố bài báo này cũng là một trong những lab đang chạy đua để xây dựng chính xác những gì nó mô tả. DeepMind đồng thời là người vẽ bản đồ và một trong những người đang đi trên bản đồ đó - và hai vai trò đó có những xung đột lợi ích mà paper, một cách thành thật, không giải quyết.

Với các kỹ sư xây dựng hệ thống AI hôm nay, thông điệp thực tế rõ nhất là về con đường thứ 4: multi-agent formation không phải tương lai xa - nó đang xảy ra trong hệ thống của bạn. Alignment ở cấp hệ thống - không chỉ agent đơn lẻ - là bài toán kỹ thuật ngay bây giờ, không phải sau này.

via arXiv 2606.12683