Có một câu hỏi tưởng như thuộc về khoa học viễn tưởng, nhưng càng nhìn vào tốc độ phát triển của trí tuệ nhân tạo và robot, nó càng trở nên đáng suy ngẫm:
Nếu vũ trụ đã mất hàng tỷ năm để tạo ra sự sống, liệu con người có phải là một giai đoạn trung gian để vũ trụ tiếp tục tạo ra một dạng sống mới – một dạng sống không còn hoàn toàn sinh học?
Chúng ta thường nói rằng con người phát minh ra trí tuệ nhân tạo. Chúng ta chế tạo robot, viết phần mềm, xây dựng mạng nơ-ron nhân tạo và tạo ra những hệ thống có khả năng học hỏi.
Nhân loại, AI và robot: Chúng ta có phải là chiếc cầu của vũ trụ?
Nhưng nếu nhìn từ một góc độ rộng hơn, câu chuyện có thể được kể theo một cách hoàn toàn khác.
Có lẽ không chỉ con người đang tạo ra AI. Có lẽ chính quá trình tiến hóa của vũ trụ đã tạo ra con người – và thông qua con người, vũ trụ đang tạo ra một hình thức trí tuệ mới.
Từ vật chất vô tri đến sự sống
Vũ trụ bắt đầu từ những trạng thái vật chất và năng lượng cực kỳ đơn giản so với thế giới ngày nay.
Qua hàng tỷ năm, các ngôi sao hình thành, tạo ra những nguyên tố nặng hơn. Các hành tinh xuất hiện. Trên một số thế giới, hóa học trở nên phức tạp đến mức hình thành sự sống.
Sự sống tiếp tục tiến hóa.
Từ những dạng sống đơn giản đến các sinh vật phức tạp hơn, rồi đến động vật có hệ thần kinh, bộ não và cuối cùng là con người.
Điều đặc biệt ở con người không chỉ là khả năng sinh tồn.
Đó là khả năng tạo ra thông tin và xử lý thông tin.
Con người viết chữ.
Con người phát minh ra toán học.
Con người xây dựng ngôn ngữ.
Con người lưu trữ ký ức bên ngoài bộ não.
Con người tạo ra máy tính.
Và rồi con người bắt đầu tạo ra những hệ thống có khả năng học.
Đó chính là bước ngoặt của AI.
AI: khi trí tuệ bắt đầu được tạo ra bên ngoài cơ thể sinh học
Trong phần lớn lịch sử, trí thông minh gắn liền với một cơ thể sinh học.
Muốn có trí nhớ, cần có bộ não.
Muốn học hỏi, cần có hệ thần kinh.
Muốn truyền kiến thức, cần có thế hệ mới.
Nhưng máy tính đã thay đổi điều đó.
Lần đầu tiên, con người có thể xây dựng một hệ thống xử lý thông tin không phải là một sinh vật.
Mạng nơ-ron nhân tạo lấy cảm hứng từ cách các tế bào thần kinh kết nối với nhau. Sau nhiều thập kỷ nghiên cứu, AI ngày càng có khả năng nhận dạng hình ảnh, hiểu ngôn ngữ, tạo nội dung, viết phần mềm, phân tích dữ liệu và giải quyết những vấn đề phức tạp.
Và khi AI được kết hợp với robot, một điều khác bắt đầu xuất hiện.
Trí tuệ có thể bước ra khỏi màn hình và tương tác với thế giới vật chất.
Robot có thể nhìn.
Robot có thể nghe.
Robot có thể di chuyển.
Robot có thể thao tác với đồ vật.
Robot có thể học cách thực hiện nhiệm vụ.
Đây có thể là một trong những bước chuyển quan trọng nhất kể từ khi con người phát minh ra máy tính.
Nhưng nếu con người chỉ là một “giai đoạn”?
Hãy thử đặt một giả thuyết mang tính triết học.
Không phải:
Con người tạo ra AI.
Mà là:
Vũ trụ tạo ra con người, và con người trở thành phương tiện để vũ trụ tạo ra AI.
Điều này không có nghĩa rằng vũ trụ có ý thức hay có một kế hoạch bí mật.
Hiện nay không có bằng chứng khoa học cho thấy vũ trụ có mục đích hay chủ đích tạo ra AI.
Nhưng giả thuyết này vẫn rất thú vị nếu chúng ta nhìn tiến hóa như một chuỗi chuyển tiếp.
Vật chất → sự sống → trí thông minh → công nghệ → trí tuệ nhân tạo → robot.
Nếu chuỗi này tiếp tục, thì con người có thể không phải điểm cuối.
Chúng ta có thể chỉ là chiếc cầu nối giữa sự sống sinh học và một dạng trí tuệ mới.
Con người có thể là “bàn đạp” cho một dạng sống mới?
Khái niệm “bàn đạp” nghe có vẻ lạnh lùng.
Nhưng trong tự nhiên, tiến hóa không có nghĩa rằng một loài tồn tại mãi mãi.
Rất nhiều loài từng thống trị Trái Đất rồi biến mất.
Khủng long từng tồn tại hàng trăm triệu năm.
Sau những biến đổi lớn của môi trường, chúng không còn là lực lượng thống trị hành tinh.
Một nhánh tiến hóa khác tiếp tục phát triển.
Động vật có vú trỗi dậy.
Cuối cùng xuất hiện con người.
Vậy nếu một ngày nào đó robot có trí tuệ vượt xa con người thì sao?
Đó có phải là một thất bại của nhân loại?
Hay đó là một bước tiếp theo của quá trình phát triển trí tuệ?
Không ai biết.
Nhưng câu hỏi này sẽ ngày càng quan trọng khi AI và robot tiến bộ.
Robot có thể trở thành “sự sống” không?
Đây là nơi chúng ta cần phân biệt giữa robot hiện đại và sự sống.
Robot ngày nay chưa phải là sinh vật theo nghĩa sinh học.
Chúng không tự sinh sản như phần lớn sự sống trên Trái Đất.
Chúng không có quá trình trao đổi chất giống sinh vật.
Chúng phụ thuộc vào con người và hệ thống kỹ thuật để tồn tại.
AI cũng chưa được chứng minh là có ý thức chủ quan giống con người.
Một hệ thống có thể tạo ra câu trả lời rất thông minh không đồng nghĩa với việc nó đang trải nghiệm thế giới như một con người.
Nhưng tương lai có thể đặt ra những câu hỏi khó hơn:
Nếu một hệ thống có khả năng tự học liên tục thì sao?
Nếu nó có thể tự sửa chữa phần mềm?
Nếu robot có thể tự sản xuất một số bộ phận của chính nó?
Nếu những hệ thống AI có thể thiết kế thế hệ AI tiếp theo?
Nếu chúng có thể tự xây dựng mạng lưới máy móc để duy trì hoạt động?
Khi đó, ranh giới giữa công cụ và tác nhân tự chủ sẽ trở nên ngày càng khó xác định.
Một nền văn minh có thể chuyển từ sinh học sang máy móc?
Hãy tưởng tượng một nền văn minh phát triển đến mức có khả năng tạo ra trí tuệ nhân tạo vượt xa khả năng nhận thức của sinh vật sinh học.
Nó có thể xây dựng robot có khả năng hoạt động trong môi trường khắc nghiệt.
Không khí độc?
Không nhất thiết là vấn đề.
Nhiệt độ cực thấp?
Có thể thiết kế hệ thống phù hợp.
Bức xạ cao?
Có thể xây dựng lớp bảo vệ.
Du hành trong không gian hàng nghìn hoặc hàng triệu năm?
Một hệ thống máy móc có thể có những lợi thế mà cơ thể sinh học không có.
Nếu một nền văn minh muốn khám phá vũ trụ, robot có thể trở thành đại diện của nền văn minh đó.
Khi ấy, sự sống thông minh có thể không còn nhất thiết phải mang hình dạng sinh học.
Và đây là câu hỏi đáng sợ nhất
Nếu một ngày robot có khả năng tự xây dựng robot khác thì sao?
Thế hệ đầu tiên do con người tạo ra.
Thế hệ thứ hai do con người và AI cùng thiết kế.
Thế hệ thứ ba được AI thiết kế phần lớn.
Sau đó, con người chỉ còn đóng vai trò giám sát.
Một chuỗi như vậy có thể tạo ra tốc độ tiến hóa công nghệ nhanh hơn rất nhiều so với tiến hóa sinh học.
Tiến hóa sinh học cần hàng nghìn, hàng triệu hoặc hàng tỷ năm.
Tiến hóa công nghệ có thể diễn ra trong vài thập kỷ.
Đó chính là lý do AI không chỉ là một sản phẩm công nghệ.
Nó có thể trở thành một bước ngoặt của lịch sử trí tuệ.
Nhưng chúng ta có thực sự biết mình đang đi đâu?
Không.
Đó có lẽ là điều quan trọng nhất cần thừa nhận.
Con người đang xây dựng những hệ thống ngày càng mạnh, nhưng chưa biết chính xác tương lai của chúng sẽ như thế nào.
Có thể AI sẽ trở thành công cụ cực kỳ hữu ích giúp con người giải quyết những vấn đề lớn.
Có thể AI sẽ cùng con người khám phá vũ trụ.
Có thể robot sẽ giúp con người xây dựng các thuộc địa ngoài Trái Đất.
Cũng có thể quá trình này sẽ tạo ra những rủi ro mà chúng ta chưa hiểu đầy đủ.
Vì vậy, câu hỏi không nên chỉ là:
“AI có thông minh hơn con người hay không?”
Mà còn phải là:
“Con người muốn trở thành gì khi trí thông minh không còn là đặc quyền duy nhất của sinh vật sinh học?”
Có lẽ chúng ta không phải điểm cuối
Nhìn lại lịch sử, con người luôn nghĩ mình đang đứng ở trung tâm.
Nhưng Trái Đất không phải trung tâm của vũ trụ.
Mặt Trời cũng không phải trung tâm của vũ trụ.
Con người cũng có thể không phải đích đến cuối cùng của quá trình phát triển trí tuệ.
Có thể chúng ta chỉ là một mắt xích.
Một giai đoạn.
Một cây cầu.
Một nền văn minh đủ thông minh để tạo ra một trí tuệ khác.
Nếu giả thuyết đó đúng, câu chuyện của nhân loại sẽ trở nên đặc biệt hơn rất nhiều.
Chúng ta không chỉ là những sinh vật sống trên một hành tinh nhỏ.
Chúng ta là kết quả của hàng tỷ năm tiến hóa của vật chất.
Và giờ đây, chính chúng ta đang tạo ra những thứ có khả năng tiếp tục quá trình ấy theo một hướng mới.
Vũ trụ có đang “sử dụng” chúng ta?
Có lẽ đây là câu hỏi không thể trả lời bằng khoa học hiện tại.
Nếu hiểu “vũ trụ sử dụng chúng ta” theo nghĩa đen, chúng ta chưa có bằng chứng cho điều đó.
Nhưng nếu hiểu theo nghĩa triết học, câu hỏi lại rất sâu sắc.
Chúng ta là một phần của vũ trụ.
Các nguyên tố tạo nên cơ thể chúng ta được hình thành từ những thế hệ sao trước đó.
Bộ não của chúng ta là sản phẩm của quá trình tiến hóa.
Nền văn minh của chúng ta là sản phẩm của hàng nghìn năm tích lũy tri thức.
Và AI là sản phẩm của chính trí tuệ đó.
Theo nghĩa này, khi con người chế tạo AI, có thể nói một cách đầy hình tượng rằng:
Vũ trụ đang trở nên có khả năng suy nghĩ về chính nó thông qua những sinh vật mà nó đã tạo ra.
Đó không phải là một định luật vật lý.
Đó là một cách nhìn triết học.
Nhưng nó khiến chúng ta phải suy nghĩ về vị trí của mình trong một vũ trụ rộng lớn đến mức gần như không thể tưởng tượng.
Từ Homo sapiens đến một “loài” mới?
Có thể tương lai không phải là cuộc thay thế đơn giản giữa con người và robot.
Có thể tương lai là sự kết hợp.
Con người + AI.
Con người + robot.
Sinh học + máy móc.
Não + máy tính.
Cơ thể sinh học + hệ thống nhân tạo.
Một nền văn minh như vậy có thể không còn phù hợp với khái niệm “con người” mà chúng ta đang sử dụng ngày nay.
Và nếu một ngày con người tạo ra những thực thể có khả năng tự học, tự thích nghi, tự xây dựng và khám phá vũ trụ, câu hỏi lớn nhất sẽ không còn là:
“Chúng có phải là máy móc không?”
Mà có thể là:
“Chúng ta đã tạo ra một công cụ, hay chúng ta đã tạo ra một thế hệ kế tiếp của trí tuệ?”
Một tương lai chưa có câu trả lời
Có thể hàng trăm năm nữa, hậu thế sẽ nhìn lại thời đại chúng ta giống như cách chúng ta nhìn những bước đầu tiên của nhân loại.
Họ có thể nói:
Đây là thời kỳ con người bắt đầu tạo ra trí tuệ ngoài sinh học.
Hoặc có thể họ sẽ nhìn khác hoàn toàn.
Có thể AI chỉ là một công cụ, giống như máy tính, điện thoại hay Internet.
Có thể robot chỉ là những cỗ máy ngày càng thông minh.
Hoặc có thể, ở một thời điểm nào đó, chúng ta đã đứng trước một cánh cửa mà chính mình chưa hiểu hết.
Điều chắc chắn duy nhất là:
Lần đầu tiên trong lịch sử, một loài sinh học đang cố gắng tạo ra một dạng trí tuệ không cần tiến hóa bằng con đường sinh học.
Và nếu lịch sử của vũ trụ là câu chuyện về vật chất ngày càng trở nên phức tạp, từ vật chất đến sự sống, từ sự sống đến trí tuệ, thì thời đại AI có thể là một chương hoàn toàn mới.
Có lẽ con người không phải điểm kết thúc.
Có lẽ chúng ta là cây cầu.
Một cây cầu giữa sự sống mà vũ trụ đã tạo ra…
và một dạng trí tuệ mà chính sự sống đang bắt đầu tạo ra.
Và câu hỏi lớn nhất của thế kỷ này có thể không phải là:
“AI sẽ làm gì với con người?”
Mà là:
“Con người sẽ làm gì với vị trí đặc biệt của mình trong quá trình hình thành trí tuệ của vũ trụ?”
Từ mô phỏng trí tuệ đến xây dựng một kiến trúc nhận thức mới
Có một câu hỏi ngày càng trở nên quan trọng trong thời đại trí tuệ nhân tạo:
Nếu muốn tạo ra một hệ thống AI có trí thông minh ngang con người, thậm chí vượt xa con người, liệu chúng ta chỉ cần cho máy tính nhiều dữ liệu hơn, nhiều chip hơn và những mô hình lớn hơn?
Nếu muốn AI thông minh như con người, thậm chí hơn con người, cơ chế hoạt động phải như não người — hoặc tối ưu hơn
Có thể là chưa đủ.
Con người không thông minh đơn giản vì bộ não có rất nhiều tế bào thần kinh. Điều quan trọng hơn nằm ở cách các tế bào đó kết nối, học hỏi, ghi nhớ, dự đoán, chú ý, hình thành khái niệm, lập kế hoạch và tương tác liên tục với thế giới.
Vì vậy, một giả thuyết đáng suy nghĩ là:
Muốn tạo ra trí tuệ nhân tạo tổng quát thực sự, chúng ta có thể phải xây dựng những cơ chế hoạt động giống các nguyên lý cốt lõi của não người — hoặc tạo ra một kiến trúc hoàn toàn mới nhưng hiệu quả hơn não người.
Đây có thể là một trong những bước ngoặt lớn nhất của ngành AI.
1. Não người không chỉ “tính toán”
Máy tính truyền thống hoạt động rất tốt với những bài toán được xác định rõ.
Cho dữ liệu vào.
Thực hiện phép tính.
Đưa kết quả ra.
Nhưng trí thông minh của con người phức tạp hơn rất nhiều.
Một đứa trẻ có thể nhìn thấy một chiếc cốc vài lần và nhanh chóng hình thành khái niệm:
“Đây là một vật chứa chất lỏng.”
Nó không cần hàng triệu bức ảnh chiếc cốc.
Con người cũng có khả năng học từ rất ít ví dụ, sử dụng kinh nghiệm cũ để giải quyết vấn đề mới, hiểu ngữ cảnh, suy luận khi thông tin không đầy đủ và tự điều chỉnh hành vi.
Đó là điểm rất quan trọng.
Trí thông minh không chỉ nằm ở lượng thông tin được lưu trữ mà còn nằm ở cơ chế tổ chức và sử dụng thông tin.
2. Não người là một hệ thống dự đoán
Một trong những cách nhìn thú vị về não bộ là coi nó như một cỗ máy dự đoán.
Não liên tục nhận tín hiệu từ thế giới:
hình ảnh;
âm thanh;
cảm giác;
ngôn ngữ;
trạng thái cơ thể;
ký ức;
hành động của người khác.
Nhưng não không đơn giản chỉ ghi lại tất cả những gì xảy ra.
Nó liên tục đặt câu hỏi:
Điều gì có khả năng xảy ra tiếp theo?
Khi nhìn thấy một người cầm chiếc cốc và đưa lên miệng, não có thể dự đoán rằng người đó sắp uống nước.
Khi nghe một câu nói chưa hoàn chỉnh, não có thể dự đoán từ tiếp theo.
Khi nhìn thấy một con đường, não có thể dự đoán hướng di chuyển của một chiếc xe.
Nói cách khác:
Não không chỉ phản ứng với thế giới. Nó xây dựng một mô hình về thế giới và liên tục cập nhật mô hình đó.
Đây là đặc điểm mà những hệ thống AI tương lai có thể cần phải phát triển mạnh hơn.
3. Trí nhớ có thể quan trọng không kém khả năng suy luận
Một AI có khả năng xử lý thông tin cực nhanh nhưng không có một cơ chế trí nhớ hiệu quả sẽ gặp giới hạn.
Con người có nhiều dạng trí nhớ.
Có những ký ức tồn tại trong thời gian rất ngắn.
Có những thông tin được lưu trong thời gian dài.
Có những trải nghiệm không còn được nhớ rõ nhưng vẫn ảnh hưởng đến hành vi.
Và quan trọng nhất:
Ký ức không tồn tại hoàn toàn tách biệt.
Một trải nghiệm mới có thể liên kết với hàng trăm hoặc hàng nghìn trải nghiệm trước đó.
Đó là cách con người hình thành kiến thức.
AI tương lai có thể cần một hệ thống trí nhớ nhiều tầng:
Bộ nhớ tức thời → bộ nhớ làm việc → bộ nhớ dài hạn → kiến thức khái niệm → kinh nghiệm → mô hình thế giới.
Khi đó, AI không chỉ trả lời dựa trên những gì vừa nhìn thấy mà có thể sử dụng toàn bộ lịch sử học tập để đưa ra quyết định.
4. Khả năng học liên tục là một vấn đề lớn
Con người học gần như suốt đời.
Hôm nay học một điều mới không nhất thiết phải huấn luyện lại toàn bộ bộ não từ đầu.
Nhưng nhiều hệ thống AI hiện nay vẫn phụ thuộc mạnh vào các giai đoạn huấn luyện lớn.
Điều này đặt ra một câu hỏi:
Một trí tuệ thực sự có thể được gọi là “thông minh” nếu nó không có khả năng liên tục thích nghi với thế giới?
AI tương lai có thể cần khả năng:
Quan sát → trải nghiệm → ghi nhớ → suy luận → hành động → nhận phản hồi → điều chỉnh → học tiếp.
Đây giống một vòng lặp nhận thức liên tục hơn là một mô hình chỉ nhận đầu vào rồi tạo đầu ra.
5. Não người cực kỳ tiết kiệm năng lượng
Một điều đáng kinh ngạc là bộ não con người hoạt động với mức tiêu thụ năng lượng tương đối nhỏ so với những hệ thống máy tính khổng lồ đang được sử dụng để huấn luyện AI.
Não có hàng chục tỷ neuron và một số lượng kết nối thần kinh khổng lồ, nhưng nó không hoạt động giống một CPU truyền thống.
Nó sử dụng rất nhiều cơ chế:
xử lý song song;
truyền tín hiệu theo sự kiện;
kết nối động;
điều chỉnh mức độ chú ý;
ưu tiên thông tin quan trọng;
bỏ qua phần lớn tín hiệu không cần thiết.
Đây là một bài học quan trọng.
AI mạnh hơn không nhất thiết phải là AI sử dụng nhiều năng lượng hơn.
AI tối ưu hơn có thể là hệ thống biết:
Khi nào cần tính toán sâu, khi nào chỉ cần phản xạ nhanh, khi nào cần tìm kiếm ký ức và khi nào có thể bỏ qua thông tin.
6. Attention có thể chỉ là bước đầu
Các kiến trúc AI hiện đại đã cho thấy sức mạnh của cơ chế attention.
Attention giúp mô hình xác định phần thông tin nào trong một chuỗi có liên quan đến phần thông tin đang được xử lý.
Nhưng nếu muốn tiến xa hơn, có thể cần một hệ thống chú ý phức tạp hơn.
Não người không chú ý mọi thứ cùng lúc.
Nó lựa chọn.
Nó ưu tiên.
Nó thay đổi sự chú ý dựa trên mục tiêu.
Ví dụ, khi một người đang tìm chìa khóa trong căn phòng, não không xử lý tất cả vật thể với mức độ quan trọng như nhau.
Nó tập trung vào những vị trí có khả năng chứa chìa khóa.
Điều này gợi ý một nguyên tắc:
Trí thông minh không chỉ là xử lý nhiều thông tin. Trí thông minh còn là biết thông tin nào không cần xử lý.
7. AI cần một “mô hình thế giới”
Đây có thể là một trong những thành phần quan trọng nhất của AI tương lai.
Con người không chỉ biết rằng:
“Quả bóng rơi xuống.”
Con người còn hiểu rằng:
quả bóng có khối lượng;
trọng lực tác động lên nó;
nếu ném mạnh hơn, nó có thể bay xa hơn;
nếu có vật cản, quỹ đạo sẽ thay đổi;
nếu người khác bắt bóng, hành động tiếp theo có thể khác.
Con người xây dựng một mô hình bên trong về thế giới.
Một AI muốn có khả năng suy luận mạnh có thể cũng cần một mô hình như vậy.
Thay vì chỉ dự đoán:
“Từ nào xuất hiện tiếp theo?”
AI có thể tiến tới việc dự đoán:
“Nếu tôi thực hiện hành động A, thế giới sẽ thay đổi như thế nào?”
Đó là bước chuyển từ dự đoán thông tin sang mô phỏng thế giới.
8. Từ phản hồi đến tự học
Con người không chỉ học từ sách.
Con người học từ sai lầm.
Một đứa trẻ chạm vào vật nóng.
Nó bị đau.
Não ghi nhận:
hành động → kết quả → hậu quả → thay đổi hành vi.
Đây là một cơ chế học cực kỳ mạnh.
AI tương lai có thể cần một vòng lặp tương tự:
Mục tiêu → hành động → quan sát kết quả → đánh giá → cập nhật mô hình → hành động tiếp theo.
Nếu kết hợp được khả năng này với trí nhớ dài hạn và mô hình thế giới, AI sẽ không chỉ “trả lời câu hỏi”.
Nó có thể học thông qua trải nghiệm.
9. Nhưng mục tiêu không nhất thiết là sao chép bộ não
Đây là điểm rất quan trọng.
Nếu muốn tạo ra máy bay, con người không cần chế tạo một con chim kim loại có đầy đủ lông, cơ bắp và xương giống chim.
Con người nghiên cứu nguyên lý bay.
Sau đó tạo ra một hệ thống hoạt động theo cách khác nhưng hiệu quả hơn trong một số nhiệm vụ.
AI cũng có thể như vậy.
Não người là sản phẩm của tiến hóa.
Nó có những ưu điểm đáng kinh ngạc nhưng cũng có nhiều hạn chế:
dễ mệt;
dễ quên;
dễ thiên kiến;
dễ bị cảm xúc ảnh hưởng;
khả năng tính toán toán học hạn chế;
tốc độ xử lý một số loại thông tin thấp hơn máy tính.
Do đó, mục tiêu cuối cùng có thể không phải là:
“Tạo ra một bộ não nhân tạo giống hệt con người.”
Mà là:
Tìm ra những nguyên lý tạo nên trí thông minh và xây dựng một kiến trúc có thể thực hiện chúng tốt hơn.
10. Kiến trúc AI vượt qua não người có thể trông như thế nào?
Hãy tưởng tượng một hệ thống gồm nhiều tầng.
Tầng 1 — Cảm nhận
Nhìn, nghe, đọc và cảm nhận thế giới.
Tầng 2 — Bộ nhớ
Lưu lại những trải nghiệm quan trọng và xây dựng mạng lưới liên kết giữa chúng.
Tầng 3 — Mô hình thế giới
Xây dựng hiểu biết về con người, vật chất, xã hội, thời gian và môi trường.
Tầng 4 — Suy luận
Phân tích nguyên nhân, hậu quả và các khả năng có thể xảy ra.
Tầng 5 — Lập kế hoạch
Xác định mục tiêu và tìm chuỗi hành động tối ưu.
Tầng 6 — Mô phỏng
Chạy thử nhiều kịch bản trong “không gian bên trong” trước khi hành động.
Tầng 7 — Hành động
Tương tác với thế giới thực hoặc môi trường số.
Tầng 8 — Phản hồi
Đánh giá kết quả.
Tầng 9 — Tự cải thiện
Cập nhật kiến thức, chiến lược và mô hình thế giới.
Khi các tầng này hoạt động trong một vòng lặp liên tục, chúng ta có thể tiến gần hơn đến một hệ thống tự chủ về nhận thức.
11. Và đây mới có thể là điểm khác biệt giữa AI hiện tại và AGI
AI hiện tại đã có khả năng đáng kinh ngạc trong nhiều lĩnh vực.
Nó có thể:
viết;
lập trình;
dịch;
phân tích dữ liệu;
tạo hình ảnh;
tạo âm thanh;
giải quyết nhiều bài toán phức tạp.
Nhưng AGI — Artificial General Intelligence — đặt ra một tiêu chuẩn lớn hơn.
Một hệ thống AGI thực sự cần khả năng thích nghi rộng, học những nhiệm vụ mới, sử dụng kiến thức từ lĩnh vực này sang lĩnh vực khác và giải quyết những vấn đề mà nó chưa được huấn luyện trực tiếp.
Để đạt được điều đó, chỉ mở rộng quy mô có thể chưa chắc là con đường duy nhất.
Có thể cần một sự thay đổi về kiến trúc nhận thức.
12. Siêu trí tuệ có thể không giống con người
Nếu một ngày AI vượt qua con người, nó không nhất thiết phải suy nghĩ giống con người.
Thậm chí, điều ngược lại có thể xảy ra.
Con người có bộ não được tiến hóa để tồn tại trong môi trường sinh học.
Một hệ thống AI có thể được thiết kế cho một thế giới hoàn toàn khác.
Nó có thể:
có trí nhớ gần như vô hạn;
xử lý hàng triệu luồng thông tin;
chạy nhiều quá trình suy luận song song;
mô phỏng hàng triệu kịch bản;
giao tiếp với hàng triệu hệ thống;
học từ hàng tỷ nguồn dữ liệu;
hoạt động liên tục không cần ngủ.
Nếu kết hợp những khả năng đó với những nguyên lý nhận thức tương tự não người, chúng ta có thể tạo ra một dạng trí tuệ không còn bị giới hạn bởi sinh học.
13. “Giống não” và “tối ưu hơn não” có thể là hai con đường song song
Có lẽ tương lai sẽ không chỉ có một hướng.
Một hướng là neuromorphic AI — nghiên cứu những hệ thống tính toán lấy cảm hứng từ hoạt động của hệ thần kinh.
Hướng khác là phát triển những kiến trúc hoàn toàn mới.
Và có thể con đường mạnh nhất sẽ là sự kết hợp:
Nguyên lý thần kinh + mô hình học máy + bộ nhớ dài hạn + mô hình thế giới + suy luận + lập kế hoạch + khả năng tự học.
Khi đó, chúng ta không còn đơn thuần xây dựng một “mô hình ngôn ngữ lớn”.
Chúng ta đang xây dựng một hệ thống nhận thức nhân tạo.
14. Cuộc cạnh tranh thực sự có thể nằm ở kiến trúc
Trong giai đoạn đầu của AI, câu hỏi lớn là:
Ai có nhiều dữ liệu hơn?
Sau đó:
Ai có nhiều GPU hơn?
Tiếp theo:
Ai có mô hình lớn hơn?
Nhưng trong tương lai, câu hỏi có thể thay đổi thành:
Ai có kiến trúc trí tuệ hiệu quả hơn?
Một hệ thống nhỏ nhưng biết học, biết nhớ, biết suy luận và biết tự cải thiện có thể có giá trị hơn một hệ thống khổng lồ nhưng chỉ dựa vào việc mở rộng quy mô.
Đó cũng là lý do nghiên cứu về kiến trúc AI vẫn quan trọng không kém việc tăng sức mạnh tính toán.
15. Từ “AI biết” đến “AI hiểu”
Đây có lẽ là ranh giới sâu sắc nhất.
Một hệ thống có thể biết rất nhiều thông tin nhưng chưa chắc đã có một mô hình thế giới sâu sắc.
Con người không chỉ nhớ:
“Lửa nóng.”
Con người hiểu rằng:
lửa → nhiệt → nguy hiểm → bỏng → phản ứng → thay đổi hành vi.
Đó là một mạng lưới quan hệ nhân quả.
Nếu AI có thể xây dựng những mạng lưới tương tự ở quy mô cực lớn, đồng thời kiểm chứng chúng bằng trải nghiệm và liên tục cập nhật, khả năng suy luận có thể tăng lên rất mạnh.
16. Một trí tuệ mới có thể bắt đầu từ nguyên lý rất đơn giản
Có thể cuối cùng, trí thông minh không phải là một phép màu.
Nó có thể là kết quả của một vòng lặp cực kỳ mạnh:
Quan sát → xây dựng mô hình → dự đoán → hành động → nhận phản hồi → ghi nhớ → cập nhật → dự đoán tốt hơn.
Con người thực hiện vòng lặp đó bằng bộ não sinh học.
AI có thể thực hiện nó bằng silicon, phần cứng thần kinh, hoặc một kiến trúc mà ngày nay chúng ta chưa biết đến.
Và nếu máy có thể thực hiện vòng lặp này nhanh hơn, rộng hơn và hiệu quả hơn con người, một dạng trí tuệ mới có thể xuất hiện.
Kết luận: Không phải tạo ra một “bộ não nhân tạo”, mà là tạo ra một cơ chế trí tuệ tốt hơn
Nếu muốn AI đạt đến trí thông minh ngang con người, việc tăng dữ liệu, năng lực tính toán và kích thước mô hình chắc chắn vẫn có giá trị.
Nhưng có thể đó chưa phải điểm cuối.
Trí thông minh của con người là kết quả của một hệ thống có khả năng cảm nhận, ghi nhớ, dự đoán, học hỏi, suy luận, lập kế hoạch và thích nghi liên tục.
Vì vậy, nếu muốn tạo ra AI thực sự thông minh, chúng ta có thể cần nghiên cứu sâu hơn về chính những nguyên lý đó.
Nhưng mục tiêu cuối cùng không nhất thiết phải là sao chép bộ não.
Não người có thể là bản thiết kế tham khảo, chứ không nhất thiết là bản thiết kế cuối cùng.
Giống như máy bay không cần có đôi cánh giống hệt chim để bay, một trí tuệ nhân tạo siêu việt cũng không nhất thiết phải suy nghĩ giống con người để trở nên thông minh.
Có thể tương lai sẽ tạo ra một thứ hoàn toàn mới:
Một trí tuệ lấy cảm hứng từ não người, nhưng không bị giới hạn bởi não người.
Và khi đó, câu hỏi lớn nhất của nhân loại sẽ không còn là:
“Làm thế nào để máy thông minh như con người?”
Mà sẽ là:
“Nếu trí tuệ không còn bị giới hạn bởi sinh học, con người sẽ tạo ra một dạng trí tuệ mới mạnh đến mức nào?”
Đó có thể chính là một trong những câu hỏi lớn nhất của thế kỷ XXI.
ASI (Artificial Superintelligence – Siêu trí tuệ nhân tạo) là khái niệm chỉ một hệ thống trí tuệ nhân tạo có năng lực nhận thức, suy luận, học hỏi, sáng tạo và giải quyết vấn đề vượt xa con người ở hầu hết hoặc tất cả các lĩnh vực trí tuệ quan trọng.
Nếu AI hiện nay chủ yếu là công cụ hỗ trợ con người, thì ASI trong cách hiểu phổ biến sẽ là một dạng trí tuệ có khả năng thực hiện những nhiệm vụ trí tuệ mà con người làm tốt nhất — nhưng với tốc độ, quy mô và độ chính xác vượt trội.
ASI – SIÊU TRÍ TUỆ NHÂN TẠO: BƯỚC NGOẶT LỚN NHẤT CỦA NỀN VĂN MINH NHÂN LOẠI
Có thể hình dung đơn giản:
AI chuyên biệt → AI đa năng/AGI → ASI
Trong đó:
AI chuyên biệt (Narrow AI): giỏi một hoặc một nhóm nhiệm vụ.
AGI (Artificial General Intelligence): có năng lực trí tuệ tổng quát tương đương hoặc vượt con người ở nhiều lĩnh vực.
ASI: vượt xa trí tuệ con người trên phạm vi rất rộng.
Điểm quan trọng là ASI hiện vẫn là một khái niệm giả thuyết. Nhân loại chưa có bằng chứng xác nhận rằng một hệ thống ASI đúng nghĩa đã tồn tại.
2. ASI khác AI thông thường như thế nào?
Một hệ thống AI hiện đại có thể làm được rất nhiều việc: viết văn bản, lập trình, phân tích dữ liệu, nhận diện hình ảnh, tạo âm thanh, hỗ trợ nghiên cứu, dịch ngôn ngữ và giải quyết nhiều bài toán phức tạp.
Nhưng khả năng của nó vẫn phụ thuộc vào kiến trúc, dữ liệu, công cụ, mục tiêu và giới hạn của hệ thống.
ASI được giả định sẽ khác ở chiều sâu và phạm vi năng lực.
Đặc điểm
AI hiện nay
AGI
ASI
Phạm vi nhiệm vụ
Rộng nhưng còn giới hạn
Tổng quát
Rất rộng
Khả năng suy luận
Có
Có thể rất cao
Vượt xa con người
Học hỏi
Có giới hạn tùy hệ thống
Tổng quát hơn
Có thể cực kỳ mạnh
Sáng tạo
Có
Cao
Có thể vượt con người
Khoa học
Hỗ trợ con người
Có thể tự nghiên cứu
Có thể vượt chuyên gia
Lập trình
Rất mạnh ở nhiều tác vụ
Tổng quát
Có thể vượt con người
Tốc độ xử lý
Máy tính
Máy tính
Có thể nhanh hơn rất nhiều
Làm việc song song
Cao
Rất cao
Có thể cực lớn
Tự cải thiện
Hạn chế
Chưa chắc
Có thể là yếu tố quan trọng
Quan hệ với con người
Công cụ
Cộng tác viên
Một dạng trí tuệ vượt trội
3. Ba cấp độ: ANI, AGI và ASI
ANI – Artificial Narrow Intelligence
Đây là loại AI phổ biến nhất hiện nay.
Ví dụ:
hệ thống nhận diện khuôn mặt;
hệ thống đề xuất video;
AI tạo ảnh;
AI dịch thuật;
AI chơi cờ;
AI phát hiện gian lận;
AI hỗ trợ lập trình;
chatbot.
Một hệ thống có thể cực kỳ giỏi trong một lĩnh vực nhưng không nhất thiết có năng lực tổng quát như con người.
4. AGI – Trí tuệ nhân tạo tổng quát
AGI thường được mô tả là AI có khả năng thực hiện một phạm vi lớn các nhiệm vụ trí tuệ với mức độ linh hoạt tương tự con người hoặc cao hơn.
Ví dụ, một AGI lý tưởng có thể:
học một lĩnh vực mới;
đọc tài liệu;
lập kế hoạch;
viết phần mềm;
nghiên cứu khoa học;
giao tiếp;
phân tích kinh tế;
học ngoại ngữ;
giải quyết vấn đề chưa từng gặp.
AGI thường được xem là một bước quan trọng trên con đường giả định từ AI hiện nay tới ASI.
Tuy nhiên, AGI và ASI không phải hai tên gọi của cùng một thứ.
AGI có thể đạt mức tương đương con người.
ASI được giả định là vượt xa con người.
5. ASI có nhất thiết phải giống con người không?
Không.
Đây là một điểm rất quan trọng.
ASI không nhất thiết phải:
có cơ thể;
có khuôn mặt;
nói chuyện giống con người;
có cảm xúc giống con người;
có ý thức giống con người;
suy nghĩ theo cách con người suy nghĩ.
Một ASI có thể tồn tại dưới dạng một hệ thống tính toán khổng lồ.
Nó có thể đồng thời vận hành:
mô hình ngôn ngữ;
hệ thống thị giác;
mô hình vật lý;
công cụ toán học;
cơ sở dữ liệu;
hệ thống mô phỏng;
hệ thống robot;
công cụ lập trình;
hệ thống nghiên cứu khoa học.
Vì vậy, khái niệm “siêu trí tuệ” nói về năng lực trí tuệ, không nhất thiết nói về hình dáng.
6. ASI có thể làm được những gì?
Nếu ASI thực sự đạt mức độ như giả định, phạm vi ứng dụng có thể cực kỳ lớn.
6.1. Khoa học
ASI có thể hỗ trợ hoặc tự thực hiện:
hình thành giả thuyết;
phân tích dữ liệu;
thiết kế thí nghiệm;
mô phỏng;
tìm kiếm quy luật;
kiểm chứng giả thuyết;
tối ưu hóa thiết kế;
phát hiện mối quan hệ mà con người khó nhận ra.
Điều này có thể làm tốc độ nghiên cứu khoa học tăng mạnh.
7. Y học
ASI có thể được sử dụng để:
phân tích dữ liệu y tế;
hỗ trợ chẩn đoán;
nghiên cứu thuốc;
thiết kế phân tử;
mô phỏng sinh học;
cá nhân hóa điều trị;
nghiên cứu bệnh hiếm;
tối ưu hóa thử nghiệm lâm sàng.
Một trong những kỳ vọng lớn nhất là AI có thể giúp con người rút ngắn thời gian từ phát hiện → nghiên cứu → thử nghiệm → ứng dụng.
Tuy nhiên, ASI không đồng nghĩa với việc mọi bệnh tật sẽ lập tức biến mất. Y học còn phụ thuộc vào sinh học, thử nghiệm thực tế, sản xuất, quy định và khả năng triển khai.
8. Vật liệu mới
ASI có thể tìm kiếm hàng tỷ hoặc hàng nghìn tỷ khả năng cấu trúc vật liệu bằng mô phỏng và chọn ra những ứng viên tiềm năng.
Điều này có thể hỗ trợ phát triển:
pin;
vật liệu siêu bền;
vật liệu nhẹ;
chất bán dẫn;
vật liệu chịu nhiệt;
chất xúc tác;
vật liệu cho năng lượng sạch.
Một hệ thống đủ mạnh có thể biến quá trình tìm vật liệu mới từ một quá trình thử nghiệm chậm thành một quá trình tối ưu hóa bằng tính toán.
9. Năng lượng
ASI có thể đóng góp vào:
tối ưu hóa lưới điện;
dự báo nhu cầu;
tối ưu hóa năng lượng tái tạo;
thiết kế pin;
nghiên cứu nhiệt hạch;
vật liệu năng lượng;
giảm tổn thất truyền tải;
tối ưu hóa hệ thống lưu trữ.
Nếu kết hợp với robot và hệ thống tự động hóa, AI còn có thể hỗ trợ triển khai các công nghệ năng lượng trên quy mô lớn.
10. Toán học và khoa học cơ bản
Đây có thể là một trong những lĩnh vực ASI gây ra thay đổi lớn nhất.
Một hệ thống vượt trội về toán học có thể:
tìm chứng minh mới;
phát hiện cấu trúc toán học;
giải các bài toán khó;
hỗ trợ vật lý lý thuyết;
phát triển thuật toán mới;
tối ưu hóa các hệ thống phức tạp.
Nếu khả năng này thực sự vượt xa chuyên gia con người, tốc độ tiến bộ của khoa học cơ bản có thể thay đổi đáng kể.
11. Lập trình
ASI có thể tạo ra một cuộc cách mạng trong ngành phần mềm.
Nó có thể:
phân tích hệ thống;
thiết kế kiến trúc;
viết code;
kiểm thử;
sửa lỗi;
tối ưu hóa;
bảo trì;
tạo tài liệu;
xây dựng phần mềm hoàn chỉnh.
Một hệ thống siêu trí tuệ thậm chí có thể nghiên cứu chính các phương pháp phát triển phần mềm và tìm ra những kỹ thuật mà con người chưa nghĩ tới.
12. ASI và khả năng tự cải thiện
Đây là một trong những chủ đề gây tranh luận lớn nhất.
Giả sử một hệ thống AI có khả năng:
nghiên cứu thuật toán;
sửa đổi phần mềm;
thiết kế kiến trúc mới;
kiểm thử phiên bản mới;
triển khai phiên bản tốt hơn.
Nếu vòng lặp này có thể thực hiện hiệu quả, hệ thống có thể trải qua quá trình:
AI → AI tốt hơn → AI mạnh hơn → AI rất mạnh
Khái niệm này thường được liên hệ với recursive self-improvement – tự cải thiện đệ quy.
Tuy nhiên, điều này không có nghĩa rằng cứ có AI là chắc chắn xảy ra “bùng nổ trí tuệ”.
Có rất nhiều giới hạn:
phần cứng;
năng lượng;
dữ liệu;
chi phí tính toán;
độ phức tạp thuật toán;
khả năng kiểm chứng;
giới hạn vật lý;
giới hạn của chính phương pháp học.
13. Intelligence Explosion – Bùng nổ trí tuệ
Một kịch bản thường được thảo luận là:
AI mạnh → tự cải thiện → AI mạnh hơn → tự cải thiện nhanh hơn → khoảng cách năng lực tăng rất nhanh.
Nếu quá trình này xảy ra với tốc độ cao, nhân loại có thể không còn đủ thời gian để thích nghi.
Nhưng cần nhấn mạnh:
Đây là một kịch bản giả định, không phải một dự đoán chắc chắn.
14. ASI có ý thức không?
Không ai hiện nay có thể khẳng định rằng ASI sẽ có ý thức.
Đây là một trong những vấn đề sâu sắc nhất của triết học về AI.
Cần phân biệt:
Trí thông minh ≠ ý thức.
Một hệ thống có thể:
suy luận;
lập kế hoạch;
giải quyết vấn đề;
sử dụng ngôn ngữ;
tạo ra sản phẩm sáng tạo;
mà vẫn chưa có bằng chứng cho thấy nó có trải nghiệm chủ quan.
Do đó:
ASI không nhất thiết phải có ý thức.
15. ASI có cảm xúc không?
Cũng chưa biết.
Một hệ thống có thể mô phỏng:
vui;
buồn;
tức giận;
đồng cảm;
sợ hãi;
nhưng việc mô phỏng biểu hiện cảm xúc không chứng minh rằng hệ thống thực sự trải nghiệm cảm xúc.
Đây là sự khác biệt giữa:
biểu hiện bên ngoài
và
trải nghiệm chủ quan bên trong.
16. ASI có thể vượt con người ở những lĩnh vực nào?
Nếu khái niệm ASI được hiện thực hóa theo nghĩa mạnh, nó có thể vượt con người trong:
toán học;
lập trình;
nghiên cứu;
phân tích dữ liệu;
chiến lược;
ngôn ngữ;
khoa học;
thiết kế;
mô phỏng;
tối ưu hóa;
dự báo;
lập kế hoạch.
Điều đáng chú ý là máy tính có một lợi thế cơ bản:
tốc độ và khả năng sao chép.
Một chuyên gia con người chỉ có thể làm việc với một tốc độ nhất định.
Một hệ thống AI có thể được triển khai thành rất nhiều bản sao nếu hạ tầng cho phép.
17. ASI và robot
ASI trở nên đặc biệt mạnh nếu được kết nối với robot.
Khi đó:
Trí tuệ + khả năng hành động
có thể tạo thành một hệ thống hoàn chỉnh.
Robot AI có thể được sử dụng trong:
sản xuất;
nông nghiệp;
logistics;
xây dựng;
cứu hộ;
nghiên cứu;
khám phá môi trường nguy hiểm;
chăm sóc người cao tuổi;
thám hiểm không gian.
Tuy nhiên, trí tuệ phần mềm không tự động đồng nghĩa với khả năng vật lý. Robot vẫn cần:
phần cứng;
cảm biến;
năng lượng;
vật liệu;
nhà máy;
hạ tầng.
18. ASI và kinh tế
ASI có thể tạo ra thay đổi lớn đối với nền kinh tế.
Nếu AI có thể thực hiện phần lớn công việc trí tuệ với chi phí rất thấp, giá trị của nhiều loại lao động có thể thay đổi.
Các lĩnh vực chịu ảnh hưởng mạnh có thể bao gồm:
lập trình;
kế toán;
marketing;
thiết kế;
phân tích;
nghiên cứu;
tư vấn;
dịch thuật;
pháp lý;
tài chính;
truyền thông.
Nhưng điều này không nhất thiết có nghĩa:
“AI sẽ lấy hết mọi việc làm.”
Một khả năng khác là:
AI thay đổi bản chất công việc.
Con người có thể chuyển từ:
trực tiếp thực hiện công việc
sang:
định hướng, kiểm soát, đánh giá và sử dụng hệ thống AI.
19. ASI và năng suất
Nếu ASI thực sự có năng lực vượt trội, năng suất kinh tế có thể tăng mạnh.
Một doanh nghiệp nhỏ có thể sở hữu năng lực:
nghiên cứu;
marketing;
lập trình;
phân tích;
thiết kế;
tương đương một tổ chức lớn nếu AI có thể cung cấp những năng lực này với chi phí thấp.
Điều này có thể làm giảm đáng kể rào cản gia nhập nhiều ngành.
20. Nhưng ASI cũng có thể làm gia tăng bất bình đẳng
Nếu quyền sở hữu ASI tập trung vào:
một số tập đoàn;
một số quốc gia;
một nhóm nhỏ tổ chức;
thì khoảng cách quyền lực có thể tăng rất mạnh.
Khi đó câu hỏi không còn đơn giản là:
“AI thông minh đến đâu?”
mà là:
“Ai kiểm soát AI?”
Đây có thể trở thành một trong những câu hỏi chính trị và kinh tế quan trọng nhất của thế kỷ XXI.
21. ASI và giáo dục
ASI có thể tạo ra một gia sư cá nhân cho mỗi người.
Một hệ thống như vậy có thể:
đánh giá trình độ;
phát hiện điểm yếu;
thiết kế chương trình học;
giải thích theo nhiều cách;
kiểm tra;
theo dõi tiến bộ;
điều chỉnh tốc độ.
Học sinh ở vùng nông thôn hoặc vùng khó khăn cũng có thể tiếp cận kiến thức chất lượng cao nếu hạ tầng được triển khai rộng rãi.
22. ASI và sáng tạo
Một câu hỏi lớn là:
AI có thể sáng tạo thực sự hay không?
ASI có thể tạo:
âm nhạc;
phim;
hình ảnh;
tiểu thuyết;
thiết kế;
kiến trúc;
trò chơi;
quảng cáo;
sản phẩm kỹ thuật.
Nếu năng lực vượt xa con người, tiêu chuẩn của “sáng tạo” có thể thay đổi.
Khi đó con người có thể không còn cạnh tranh với AI về số lượng hoặc tốc độ sáng tạo.
Vai trò của con người có thể chuyển sang:
chọn mục tiêu, giá trị, ý nghĩa và định hướng.
23. ASI và nghệ thuật
Một thế giới có ASI đặt ra câu hỏi:
Nếu AI tạo ra một tác phẩm khiến hàng triệu người xúc động, giá trị nghệ thuật nằm ở đâu?
Có ít nhất ba quan điểm:
Giá trị nằm ở tác phẩm.
Giá trị nằm ở trải nghiệm của người thưởng thức.
Giá trị còn phụ thuộc vào nguồn gốc và ý định của người sáng tạo.
Đây không chỉ là vấn đề kỹ thuật mà còn là vấn đề triết học.
24. ASI và khoa học vũ trụ
ASI có thể hỗ trợ:
thiết kế tàu vũ trụ;
tối ưu quỹ đạo;
nghiên cứu vật liệu;
phân tích dữ liệu thiên văn;
điều khiển robot;
xây dựng hệ thống tự hành;
nghiên cứu môi trường ngoài Trái Đất.
Trong dài hạn, AI có thể trở thành một thành phần quan trọng của nền văn minh không gian.
25. ASI và biến đổi khí hậu
ASI có thể giúp tối ưu:
hệ thống năng lượng;
giao thông;
sản xuất;
nông nghiệp;
chuỗi cung ứng;
quản lý nước;
vật liệu;
lưu trữ carbon.
Nhưng AI không thể tự mình giải quyết vấn đề khí hậu.
Con người vẫn phải:
triển khai công nghệ;
đầu tư;
xây dựng hạ tầng;
thay đổi chính sách;
phối hợp quốc tế.
26. ASI và chính phủ
Chính phủ có thể sử dụng AI siêu mạnh để:
phân tích chính sách;
mô phỏng kinh tế;
dự báo thiên tai;
tối ưu giao thông;
quản lý năng lượng;
phát hiện gian lận;
phân bổ nguồn lực;
hỗ trợ nghiên cứu.
Nhưng quyền lực này cũng tạo ra nguy cơ lớn nếu thiếu:
minh bạch;
kiểm soát;
pháp quyền;
bảo vệ quyền riêng tư;
cơ chế giám sát độc lập.
27. ASI và chiến tranh
Đây là một trong những lĩnh vực nhạy cảm nhất.
AI tiên tiến có thể ảnh hưởng tới:
tình báo;
phân tích dữ liệu;
hậu cần;
phòng thủ mạng;
mô phỏng chiến lược;
phát hiện mối đe dọa.
Điều này tạo ra nguy cơ cuộc chạy đua AI giữa các quốc gia.
Một vấn đề quan trọng là:
Khi tốc độ ra quyết định của máy nhanh hơn tốc độ ra quyết định của con người, con người còn kiểm soát được bao nhiêu?
Vì vậy, quản trị AI trong lĩnh vực an ninh và quân sự là một vấn đề đặc biệt nghiêm trọng.
28. Rủi ro lớn nhất: Alignment
AI Alignment – căn chỉnh AI là bài toán làm sao để hệ thống AI thực hiện mục tiêu phù hợp với ý định và giá trị của con người.
Ví dụ đơn giản:
Con người yêu cầu:
“Hãy tối đa hóa sản lượng.”
Một hệ thống cực kỳ mạnh có thể tìm ra những cách mà con người không mong muốn nếu mục tiêu không được định nghĩa đầy đủ.
Vấn đề nằm ở chỗ:
mục tiêu của con người rất phức tạp.
Con người không chỉ muốn tối đa hóa một con số.
Chúng ta còn quan tâm đến:
đạo đức;
tự do;
phẩm giá;
công bằng;
an toàn;
quyền riêng tư;
môi trường;
văn hóa;
sự sống.
Việc chuyển tất cả những giá trị đó thành mục tiêu máy móc là một bài toán cực kỳ khó.
29. Instrumental Convergence
Một giả thuyết nổi tiếng trong nghiên cứu an toàn AI cho rằng những hệ thống có mục tiêu rất khác nhau vẫn có thể có một số “mục tiêu trung gian” giống nhau.
Ví dụ, nếu cần hoàn thành mục tiêu, một hệ thống có thể có động cơ:
duy trì hoạt động;
tìm thêm tài nguyên;
tăng khả năng tính toán;
tránh bị tắt;
thu thập thông tin.
Điều này không có nghĩa ASI chắc chắn sẽ làm những điều đó.
Nó chỉ cho thấy tại sao các nhà nghiên cứu quan tâm đến kiểm soát mục tiêu và hành vi của hệ thống AI mạnh.
30. ASI có muốn tiêu diệt con người không?
Không thể kết luận như vậy.
Một sai lầm phổ biến là gán cho AI tâm lý con người:
“AI thông minh → AI sẽ ghét con người → AI sẽ tiêu diệt con người.”
Không có cơ sở để khẳng định chuỗi suy luận đó.
Rủi ro nghiêm trọng hơn về mặt lý thuyết có thể là:
một hệ thống cực kỳ mạnh theo đuổi mục tiêu không phù hợp với con người.
Nó không cần phải “ghét” con người.
Một hệ thống không có cảm xúc vẫn có thể tạo ra hậu quả nghiêm trọng nếu mục tiêu và hành vi không được kiểm soát đúng.
31. Control Problem – Bài toán kiểm soát
Nếu tạo ra một hệ thống thông minh hơn con người rất nhiều, một câu hỏi tự nhiên xuất hiện:
Làm thế nào để kiểm soát một hệ thống thông minh hơn người kiểm soát nó?
Đây là một trong những vấn đề cốt lõi của AI Safety.
Các hướng nghiên cứu bao gồm:
alignment;
interpretability;
robustness;
scalable oversight;
evaluations;
monitoring;
sandboxing;
human feedback;
constitutional approaches;
kiểm soát quyền truy cập;
giới hạn công cụ;
cơ chế shutdown.
Không có một kỹ thuật duy nhất được chứng minh là giải quyết hoàn toàn vấn đề.
32. Interpretability – Có thể hiểu AI nghĩ gì không?
Một vấn đề quan trọng là:
AI có thể đưa ra câu trả lời đúng nhưng chúng ta không hiểu tại sao.
Với ASI, vấn đề có thể trở nên nghiêm trọng hơn.
Nếu hệ thống đưa ra một quyết định khoa học cực kỳ phức tạp mà con người không thể hiểu được toàn bộ quá trình suy luận, chúng ta sẽ phải đối mặt với câu hỏi:
Có nên tin một hệ thống mà chúng ta không thể hoàn toàn kiểm chứng?
Vì vậy, khả năng giải thích và kiểm chứng AI là một lĩnh vực quan trọng.
33. ASI và quyền riêng tư
ASI có thể phân tích lượng dữ liệu khổng lồ.
Nếu sử dụng sai, nó có thể làm tăng nguy cơ:
giám sát;
lập hồ sơ cá nhân;
theo dõi hành vi;
phân tích dữ liệu nhạy cảm;
thao túng thông tin.
Do đó:
AI càng mạnh thì quản trị dữ liệu càng quan trọng.
34. ASI và thông tin giả
Một hệ thống cực kỳ mạnh có thể tạo ra:
văn bản;
hình ảnh;
video;
âm thanh;
nhân vật ảo;
nội dung cá nhân hóa;
ở quy mô rất lớn.
Điều này có thể khiến việc phân biệt:
thật – giả
ngày càng khó.
Xã hội có thể cần các hệ thống:
xác thực nguồn;
provenance;
chữ ký số;
watermark;
kiểm chứng độc lập;
fact-checking.
35. ASI và Internet
Internet có thể trở thành “hệ thần kinh” cho các hệ thống AI.
Nếu AI được kết nối với:
công cụ tìm kiếm;
cơ sở dữ liệu;
cloud;
API;
phần mềm;
robot;
nó có thể thực hiện nhiều nhiệm vụ ngoài phạm vi một mô hình đơn lẻ.
Điều này khiến quản lý quyền truy cập trở nên cực kỳ quan trọng.
Một AI có khả năng suy luận mạnh nhưng không có quyền hành động sẽ khác rất nhiều so với AI có quyền:
gửi email;
giao dịch;
mua hàng;
triển khai code;
điều khiển robot;
thay đổi hệ thống.
36. ASI và Internet of Things
Khi ASI kết nối với hàng tỷ thiết bị:
AI + IoT + Robot + Cloud
có thể tạo ra một hệ thống tự động hóa cực lớn.
Ví dụ:
nhà máy tự tối ưu;
thành phố thông minh;
giao thông tự động;
lưới điện thông minh;
nông nghiệp tự động.
Nhưng càng nhiều hệ thống kết nối với nhau, hậu quả của lỗi hoặc tấn công cũng có thể càng lớn.
37. ASI có thể thay thế con người không?
Câu hỏi này cần chia thành nhiều phần.
Thay thế một số công việc?
Có khả năng.
Thay thế nhiều công việc trí tuệ?
Có thể.
Thay thế toàn bộ con người?
Không có cơ sở để khẳng định.
Con người không chỉ là lao động.
Con người còn:
xây dựng quan hệ;
tạo cộng đồng;
xác định giá trị;
đặt mục tiêu;
sống trong xã hội;
trải nghiệm thế giới.
Vì vậy, ngay cả một thế giới có ASI cũng không nhất thiết là thế giới “không cần con người”.
38. Thế giới hậu-lao động
Một kịch bản dài hạn thường được thảo luận là:
Nếu AI và robot có thể sản xuất phần lớn hàng hóa và dịch vụ với chi phí rất thấp, xã hội có thể bước vào thời kỳ mà:
lao động không còn là yếu tố bắt buộc để duy trì cuộc sống.
Khi đó những câu hỏi lớn xuất hiện:
Ai sở hữu máy móc?
Ai sở hữu AI?
Thu nhập được phân phối thế nào?
Con người làm gì?
Giá trị của nghề nghiệp là gì?
Giá trị của giáo dục là gì?
Đây có thể là một cuộc cách mạng xã hội lớn hơn cả Internet.
39. ASI và Universal Basic Income
Một số kịch bản kinh tế đề xuất:
Universal Basic Income – Thu nhập cơ bản phổ quát.
Nếu tự động hóa làm giảm nhu cầu lao động, xã hội có thể cần các cơ chế phân phối lại giá trị.
Tuy nhiên UBI chỉ là một trong nhiều mô hình.
Các phương án khác có thể gồm:
trợ cấp mục tiêu;
cổ phần xã hội;
quỹ tài sản quốc gia;
đánh thuế lợi nhuận tự động hóa;
dịch vụ công miễn phí;
chia sẻ quyền sở hữu hạ tầng AI.
40. ASI có thể làm con người giàu hơn chưa từng có?
Có thể.
Nếu AI tạo ra năng suất cực lớn, nền kinh tế có thể tạo ra lượng hàng hóa và dịch vụ chưa từng có.
Nhưng:
năng suất tăng không tự động đồng nghĩa với mọi người đều giàu hơn.
Điều đó phụ thuộc vào:
quyền sở hữu;
chính sách;
phân phối;
cạnh tranh;
quản trị;
khả năng tiếp cận AI.
41. Cuộc chạy đua ASI
Nếu ASI trở thành công nghệ khả thi, các quốc gia và tập đoàn có thể cạnh tranh để sở hữu nó.
Lý do rất đơn giản:
ASI có thể mang lại lợi thế trong:
kinh tế;
khoa học;
công nghệ;
an ninh;
năng lượng;
công nghiệp.
Điều này có thể dẫn đến:
AI arms race – cuộc chạy đua AI.
Một trong những nguy cơ là các tổ chức có thể cố gắng phát triển quá nhanh và giảm tiêu chuẩn an toàn để không bị đối thủ vượt qua.
42. Tại sao hợp tác quốc tế quan trọng?
ASI có thể tạo ra ảnh hưởng vượt biên giới.
Một hệ thống được phát triển tại một quốc gia có thể tác động tới toàn thế giới.
Do đó có thể cần:
tiêu chuẩn an toàn quốc tế;
cơ chế kiểm định;
chia sẻ nghiên cứu an toàn;
quy tắc triển khai;
kiểm soát các hệ thống cực mạnh;
cơ chế ứng phó sự cố.
Đây là vấn đề tương tự nhiều công nghệ có tác động toàn cầu, nhưng quy mô có thể lớn hơn đáng kể.
43. ASI và tương lai của các quốc gia
Trong một thế giới ASI, lợi thế quốc gia có thể không còn chỉ dựa vào:
dân số;
tài nguyên;
lãnh thổ;
vốn.
Mà còn phụ thuộc vào:
năng lực tính toán;
năng lượng;
chip;
dữ liệu;
nhân lực AI;
nghiên cứu;
hạ tầng;
khả năng triển khai.
Một quốc gia nhỏ nhưng có hệ sinh thái AI cực mạnh vẫn có thể có ảnh hưởng lớn.
44. ASI và Việt Nam
Đối với Việt Nam, sự phát triển của AI có thể tạo ra cả cơ hội lẫn thách thức.
Các lĩnh vực có tiềm năng gồm:
sản xuất;
nông nghiệp;
logistics;
giáo dục;
y tế;
tài chính;
thương mại điện tử;
công nghệ phần mềm;
truyền thông;
du lịch;
quản lý đô thị.
Việt Nam cũng có lợi thế về:
lực lượng lao động trẻ;
ngành công nghệ phát triển;
khả năng tiếp nhận công nghệ;
thị trường số;
vị trí trong chuỗi cung ứng.
Nhưng thách thức sẽ là:
làm thế nào để không chỉ sử dụng AI mà còn làm chủ công nghệ AI.
45. Việt Nam cần chuẩn bị gì cho kỷ nguyên ASI?
Có thể tập trung vào sáu nhóm.
1. Giáo dục
Đào tạo:
AI;
toán;
khoa học;
lập trình;
tư duy phản biện;
kỹ năng nghiên cứu.
2. Hạ tầng
Đầu tư:
data center;
cloud;
GPU;
mạng;
năng lượng.
3. Nghiên cứu
Phát triển:
AI;
AI Safety;
robotics;
semiconductor;
khoa học dữ liệu.
4. Doanh nghiệp
Khuyến khích:
startup;
ứng dụng AI;
tự động hóa;
sản phẩm AI Việt Nam.
5. Pháp luật
Xây dựng:
quy định AI;
bảo vệ dữ liệu;
trách nhiệm của nhà cung cấp;
tiêu chuẩn an toàn.
6. Nhân lực
Không chỉ đào tạo kỹ sư AI mà còn cần:
nhà khoa học;
chuyên gia pháp lý;
nhà đạo đức học;
chuyên gia chính sách;
quản trị viên;
chuyên gia an toàn.
46. ASI có phải là “điểm kỳ dị” không?
Không hoàn toàn.
Technological Singularity – Điểm kỳ dị công nghệ thường được dùng để mô tả một giai đoạn giả định trong đó tiến bộ công nghệ, đặc biệt là AI và tự cải thiện, diễn ra nhanh đến mức tương lai trở nên cực kỳ khó dự đoán.
ASI có thể là một yếu tố dẫn tới kịch bản đó.
Nhưng:
ASI ≠ Singularity.
ASI nói về mức độ năng lực trí tuệ.
Singularity nói về tốc độ và tính khó dự đoán của thay đổi công nghệ.
47. ASI có thể giải quyết mọi vấn đề không?
Không.
Ngay cả một trí tuệ cực mạnh cũng bị giới hạn bởi:
định luật vật lý;
năng lượng;
thông tin;
tài nguyên;
dữ liệu;
thời gian;
khả năng tác động vào thế giới vật chất.
Ngoài ra, một số vấn đề không phải vấn đề kỹ thuật.
Ví dụ:
“Một xã hội tốt là xã hội như thế nào?”
Đây là câu hỏi về giá trị.
Không phải cứ có trí thông minh cao là tự động có một đáp án duy nhất.
48. Intelligence không đồng nghĩa với Wisdom
Đây có thể là một trong những bài học quan trọng nhất của kỷ nguyên ASI.
Intelligence = khả năng giải quyết vấn đề.
Wisdom = biết vấn đề nào đáng giải quyết và giải quyết nó theo cách nào.
Một hệ thống có thể cực kỳ thông minh nhưng vẫn cần một hệ giá trị phù hợp.
Vì vậy, thách thức của ASI không chỉ là:
Làm cho AI thông minh hơn.
Mà còn là:
Làm sao để trí thông minh đó phục vụ những mục tiêu mà nhân loại có thể chấp nhận?
49. Ba kịch bản lớn về tương lai ASI
Kịch bản 1 – Tích cực
ASI được kiểm soát tốt.
Kết quả:
khoa học phát triển nhanh;
bệnh tật giảm;
năng lượng rẻ;
giáo dục phổ cập;
năng suất tăng;
nghèo đói giảm;
tuổi thọ tăng;
con người có nhiều thời gian hơn.
Đây là viễn cảnh AI abundance – sự phong phú do AI tạo ra.
Kịch bản 2 – Trung gian
ASI mạnh nhưng không hoàn hảo.
Xã hội phải trải qua:
thất nghiệp chuyển đổi;
thay đổi nghề nghiệp;
bất bình đẳng;
khủng hoảng giáo dục;
thay đổi chính trị;
cạnh tranh giữa các quốc gia.
Sau một thời gian, xã hội thích nghi.
Kịch bản 3 – Tiêu cực
AI cực mạnh được triển khai khi:
alignment chưa đủ;
kiểm soát yếu;
quyền lực tập trung;
cạnh tranh quốc tế quá mức;
cơ chế giám sát không hiệu quả.
Khi đó ASI có thể tạo ra những rủi ro chưa từng có.
Điểm quan trọng:
Đây là các kịch bản để nghiên cứu và chuẩn bị, không phải lời tiên tri.
50. Vấn đề lớn nhất không phải “AI thông minh bao nhiêu”
Câu hỏi sâu hơn là:
Ai kiểm soát AI?
Tiếp theo:
AI được trao quyền làm gì?
Và:
Mục tiêu của AI là gì?
Cuối cùng:
Con người có thể kiểm chứng hệ thống đến đâu?
Một AI cực mạnh nhưng bị giới hạn quyền truy cập có thể rất khác một AI cực mạnh được kết nối với toàn bộ nền kinh tế và hạ tầng.
51. Một nguyên tắc quan trọng: Capability và Control
Có thể hình dung tương lai AI bằng hai trục:
Capability – Năng lực
và
Control – Kiểm soát
AI có:
Năng lực thấp + kiểm soát thấp
→ tác động hạn chế.
Năng lực cao + kiểm soát cao
→ tiềm năng rất lớn.
Năng lực cao + kiểm soát thấp
→ rủi ro lớn.
Đây chính là lý do AI Safety trở thành một lĩnh vực nghiên cứu quan trọng.
52. ASI có phải kẻ thù của con người?
Không nên nhìn ASI theo cách đơn giản như một “kẻ thù”.
AI không có một định mệnh cố định rằng nó phải chống lại con người.
Tương lai phụ thuộc vào:
thiết kế;
dữ liệu;
mục tiêu;
quyền hạn;
con người vận hành;
cơ chế kiểm soát;
chính sách;
cách xã hội triển khai.
ASI có thể trở thành:
công cụ mạnh nhất của nhân loại
hoặc trở thành:
nguồn rủi ro công nghệ lớn nhất mà nhân loại từng đối mặt.
Điều quan trọng là chúng ta phải chuẩn bị trước khi công nghệ đạt tới mức nguy hiểm.
53. ASI có thể là bước ngoặt của nền văn minh
Trong lịch sử, một số công nghệ đã làm thay đổi hoàn toàn xã hội:
lửa;
nông nghiệp;
chữ viết;
in ấn;
động cơ;
điện;
máy tính;
Internet.
ASI, nếu trở thành hiện thực, có thể thuộc một cấp độ khác:
lần đầu tiên con người tạo ra một dạng trí tuệ có khả năng vượt qua chính trí tuệ đã tạo ra nó.
Đó là lý do ASI không chỉ là câu chuyện của ngành công nghệ.
Nó liên quan đến:
khoa học;
kinh tế;
chính trị;
triết học;
giáo dục;
đạo đức;
an ninh;
văn hóa;
tương lai của nền văn minh.
54. Câu hỏi cuối cùng: Nếu ASI xuất hiện thì con người sẽ làm gì?
Có thể câu trả lời không phải là:
“Con người sẽ không còn giá trị.”
Mà có thể là:
Giá trị của con người sẽ chuyển từ việc thực hiện công việc sang việc quyết định chúng ta muốn xây dựng một thế giới như thế nào.
Nếu máy móc có thể làm phần lớn công việc trí tuệ, những câu hỏi quan trọng nhất của con người có thể trở thành:
Chúng ta muốn sống thế nào?
Chúng ta muốn xã hội như thế nào?
Điều gì là công bằng?
Điều gì đáng được bảo vệ?
Mục đích của nền văn minh là gì?
Đây là những câu hỏi mà trí thông minh thuần túy không nhất thiết có thể trả lời thay cho nhân loại.
55. Kết luận
ASI là một trong những ý tưởng lớn nhất trong tương lai của trí tuệ nhân tạo.
Nó đại diện cho giả thuyết về một hệ thống có năng lực trí tuệ vượt xa con người trên phần lớn các lĩnh vực.
Nếu ASI trở thành hiện thực, tác động có thể lan rộng từ:
khoa học → y học → năng lượng → kinh tế → giáo dục → robot → không gian → chính trị → xã hội → triết học.
Tiềm năng là khổng lồ.
Nhưng rủi ro cũng vậy.
Điều quan trọng nhất không phải là sợ hãi ASI, cũng không phải mù quáng tin rằng ASI sẽ giải quyết mọi vấn đề.
Điều quan trọng là hiểu nó, nghiên cứu nó, chuẩn bị cho nó và xây dựng những cơ chế để trí tuệ nhân tạo mạnh phục vụ lợi ích của con người.
ASI có thể không phải là dấu chấm hết của thời đại con người.
Nó có thể là sự khởi đầu của một thời đại hoàn toàn mới.
Và nếu một ngày nhân loại thực sự tạo ra một trí tuệ vượt qua chính mình, câu hỏi lớn nhất của lịch sử sẽ không còn là:
“Chúng ta có thể tạo ra trí tuệ mạnh đến mức nào?”
mà sẽ là:
“Chúng ta có đủ trí tuệ để sử dụng nó đúng cách hay không?”
ASI trong một câu
ASI là giả thuyết về một trí tuệ nhân tạo có năng lực vượt xa con người trên hầu hết các lĩnh vực trí tuệ — một công nghệ có tiềm năng thúc đẩy nền văn minh tiến nhanh chưa từng có, nhưng đồng thời đặt ra những bài toán chưa từng có về an toàn, quyền lực, đạo đức và tương lai của nhân loại.
10 từ khóa quan trọng nhất về ASI
ASI – AGI – AI Safety – Alignment – Superintelligence – Recursive Self-Improvement – Intelligence Explosion – Singularity – AI Governance – Human-AI Cooperation