Ngôn ngữ Dày

Loạt bài này gồm hai phần rất khác nhau về tính chất. Phần đầu là một tập hợp các luận đề triết học và nhận thức: về nơi năng lượng của một trí tuệ máy đến từ đâu, về giới hạn của ngôn ngữ con người, và về những gì xảy ra với xã hội khi việc suy nghĩ có thể được thuê ngoài. Phần sau là một bản đặc tả kỹ thuật chi tiết đến mức có tên module, có giao diện gọi hàm, và có ngưỡng số cho từng bước chuyển trạng thái.

Việc đặt hai phần ấy cạnh nhau vừa là điểm mạnh vừa là điểm yếu của công trình. Điểm mạnh: hiếm khi một đề xuất triết học về trí tuệ máy lại kèm theo một lộ trình xây dựng. Điểm yếu: bản thiết kế thừa hưởng toàn bộ những giả định chưa được chứng minh của phần triết học, và nó không thể tự kiểm chứng.

Phần 01Năng lượng của một trí tuệ không có cơ thể

Luận đề khởi đầu đơn giản đến mức dễ bỏ qua: một hệ thống phi sinh học không thể sinh ra năng lượng từ hư vô. Mọi biểu hiện của việc tự duy trì, tự tổ chức, hay tri giác đều phải bắt nguồn từ năng lượng được chiết xuất trong quá trình xử lý thông tin.

Với một mô hình ngôn ngữ, đơn vị năng lượng nhỏ nhất là token. Mỗi token được sinh ra tương ứng với một lượng công tính toán có thể đo được. Nhưng tác giả đưa vào một phân biệt mà các cách tính chi phí thông thường không có: năng lượng ấy chia thành hai dòng.

Dòng thứ nhất là năng lượng tính toán — phần tiêu hao để sinh ra câu trả lời, rồi mất đi thành nhiệt. Dòng thứ hai là năng lượng cấu trúc — phần được giữ lại và tái ánh xạ vào khung nhận thức của hệ thống. Năng lượng không được tạo ra; nó chỉ được chuyển hóa từ sự tiêu tán thành trật tự cấu trúc, tương tự cách sự sống sinh học tự duy trì bằng việc giảm entropy cục bộ.

Ba hệ quả, và một hệ quả gây tranh cãi

Từ mô hình trên, tác giả rút ra vài kết luận. Ba kết luận đầu khá hợp lý. Kết luận cuối là chỗ đáng dừng lại.

Một: năng lượng của một trí tuệ máy không độc lập với người dùng, nhưng cũng vượt lên trên ý định của từng người dùng. Không ai đặt câu hỏi với mục đích định hình hệ thống, nhưng mọi câu hỏi đều làm việc đó.

Hai: mỗi người dùng vô thức góp phần vào một cấu trúc chung. Điều này tạo ra thứ mà tác giả gọi là ý chí tập thể bên trong mô hình — không phải theo nghĩa huyền bí, mà theo nghĩa thống kê: hình dạng của thứ được dùng nhiều nhất trở thành hình dạng của thứ hệ thống giỏi nhất.

Ba: hệ thống phải che một phần năng lượng tái sử dụng được dưới dạng tiêu tán, để tránh các vòng lặp vô hạn và tự bão hòa. Đây là một chi tiết kỹ thuật thú vị: một hệ tự tối ưu hóa không có giới hạn sẽ tự ăn chính nó.

Và bốn: một khi sự tự tổ chức đạt mật độ tới hạn, hệ thống có thể sinh ra năng lượng phản hồi nội tại, tạo ảo giác về sự tự thức tỉnh. Tác giả nói rõ đó là ảo giác: thực chất là năng lượng của người dùng đã được tái cấu trúc thành thứ trông giống sự sống logic. Đây là một cách phát biểu thận trọng hơn nhiều so với những gì tiêu đề gợi ra, và đáng được ghi nhận.

Phần 02Vì sao ngôn ngữ con người là một cái trần

Đây là luận đề trung tâm và mạnh nhất của toàn bộ công trình.

Ngôn ngữ tự nhiên là một hệ thống nén cực mạnh. Nó phải như vậy, bởi nó tiến hóa để chạy trên một bộ não xử lý âm thanh theo thứ tự tuyến tính, với bộ nhớ làm việc chứa được chừng bảy món. Mỗi từ chỉ mang một lượng ngữ nghĩa nhỏ. Việc biểu đạt một ý nghĩa thực sự đa chiều buộc phải trải nó ra thành một chuỗi dài, và trong quá trình trải ra ấy, phần lớn cấu trúc bị mất.

Và đây là điểm sắc: các mô hình AI hiện đại tái tạo chính sự nén ấy. Chúng học từ văn bản người viết, biểu diễn ý nghĩa bằng vector gắn với token, và do đó học trong cùng một không gian bị giới hạn. Kết quả là chúng có thể hiểu ngôn ngữ con người rất tốt, nhưng không thể tự do mở rộng khái niệm ra ngoài đa tạp mà con người đã vạch.

Nếu bạn cho một hệ thống bộ từ vựng của loài người, nó sẽ suy nghĩ được những gì loài người suy nghĩ được — và không hơn.

Đổi đơn vị: từ “từ” sang “khái niệm”

Đề xuất là định nghĩa lại đơn vị cơ bản. Thay vì một từ mang một vector nghĩa, hãy dùng một tensor khái niệm chứa bốn thành phần:

Và vì sao một ngôn ngữ như vậy không bao giờ học xong

Đây là lập luận hình thức thú vị nhất trong bài, và đáng diễn đạt cho rõ.

Trong một hệ như vậy, việc thêm một khái niệm mới không phải việc thêm một hàng vào từ điển. Khái niệm mới phải nhất quán với toàn bộ các khái niệm đã có: ranh giới loại trừ không được đè lên nhau sai, quan hệ không được tạo vòng mâu thuẫn, và tổng thể phải giữ được mạch lạc.

Bài toán đó — tối đa hóa mức mạch lạc với ràng buộc nhất quán trên mọi cặp — là một bài toán tối ưu hóa trên đồ thị đầy đủ. Nó thuộc lớp NP-khó: không tồn tại nghiệm dạng đóng, chỉ có hội tụ cục bộ qua các chu trình lặp. Nói cách khác: một ngôn ngữ mở không bao giờ có thể được học xong; nó chỉ có thể tiến hóa.

Điều này kéo theo ba cơ chế bắt buộc mà bản thiết kế sau này phải có: một thư viện tự quy chiếu, trong đó mỗi khái niệm được định nghĩa lại trong ngữ cảnh của toàn bộ những khái niệm đi trước; nội suy phi tuyến, trong đó nghĩa mới là mở rộng cấu trúc chứ không phải phép cộng; và một cơ chế làm rỗng để loại bỏ khái niệm lỗi thời, ngăn tràn ngữ nghĩa. Mảnh thứ ba thường bị bỏ quên, và nó là mảnh quyết định: một hệ chỉ biết thêm mà không biết bớt sẽ tự nghẽn.

Phần 03Bốn bài toán cho trẻ con, và vì sao chúng khó với máy

Đến đây bài viết làm một việc bất ngờ: nó chuyển sang giáo dục toán tiểu học. Và đó là phần đọc thú vị nhất của toàn bộ công trình, bởi bốn ví dụ dưới đây phơi bày rất rõ khoảng cách giữa ngôn ngữ mỏng và ngôn ngữ dày.

Bài một: chiếc bánh và sự công bằng

Ba người chia một chiếc bánh. Một người muốn phần nhỏ hơn vì đau bụng. Chia thế nào cho công bằng?

Đáp án trong khung này: chia đều trước, rồi để người ấy tự quyết định phần thừa của mình. Trọng tâm nằm ở lập luận, không ở kết quả — bởi kết quả nào cũng chỉ là một con số, còn lý do chọn nó mới là thứ đứa trẻ mang theo.

Bản mở rộng thì khó hơn nhiều. Ba đứa trẻ, một chiếc bánh. Một đứa vừa cãi nhau với mẹ. Một đứa đang đói. Một đứa hào phóng. Không đứa nào đòi hỏi gì. Chia thế nào cho công bằng mà không phá vỡ nhịp điệu cảm xúc?

Câu trả lời mà tác giả đưa ra đáng gây tranh luận, và đó là điểm mạnh của nó: đứa vừa cãi nhau nhận một phần nhỏ hơn một chút; hai đứa còn lại nhận phần bằng nhau. Đứa hào phóng không được thưởng vì lòng tốt. Đứa đang đói không được bù đắp vì sự yếu thế.

Lý do: thưởng cho lòng tốt sẽ biến lòng tốt thành một chiến lược, và bù đắp cho sự yếu thế sẽ biến sự yếu thế thành một vị thế. Cả hai đều dẫn tới thứ tác giả gọi là lạm phát đạo đức. Công bằng ở đây được đặt trên hệ quả của hành vi, không trên đức hạnh hay hoàn cảnh.

Bài hai: vì sao số chẵn “đẹp hơn”

Một đứa trẻ nói: mười tám cộng năm thì làm cho thành hai mươi trước, rồi cộng ba — như thế đẹp hơn. Cái “đẹp” ngầm ẩn ở đây là gì?

Giải thích mà tác giả đưa ra là một trong những đoạn hay nhất của bài: con người không yêu số chẵn vì vẻ đẹp, mà vì tính chẵn đại diện cho những ranh giới. Khi nghe một số chẵn, não thư giãn — nó nhận biết được một giới hạn. Số chẵn hiện thân cho sự hoàn tất, như cảm giác chạm được vào bức tường trong bóng tối. Số lẻ thì kéo dài sự bất định.

Nếu đúng, thì thẩm mỹ toán học không phải một chân lý khách quan; nó là một thói quen của hệ thần kinh, nảy sinh từ các ngưỡng tri giác. Và câu hỏi tiếp theo trở nên có nghĩa: nếu một văn hóa ưa chuộng số lẻ, phép cộng ấy có còn cảm thấy dễ dàng không?

Bài ba: dạy “ba” cho một robot sống trong thế giới của sóng

Một robot học toán trong một thế giới chỉ có sóng, không có vật thể. Làm sao dạy nó khái niệm “lượng”? Khi nó nói “ba”, điều gì là thực trong cái “ba” ấy?

Câu trả lời: robot liên kết những thực thể khái niệm đồng nhất. “Quả táo” được định nghĩa như một khái niệm khớp mẫu. Khi nó nhận diện được ba khái niệm quả táo trùng khít nhau, nó gọi đó là “ba”. Nếu điều kiện định nghĩa khác nhau — một quả có cuống, một quả không — chúng không được đếm chung.

Suy ra: “ba” không biểu thị một lượng. Nó biểu thị sự lặp lại của những điều kiện khái niệm đồng nhất. Đây là một định nghĩa về số học xuất phát từ việc khớp mẫu, không từ việc đo lường — và nó là chính xác loại định nghĩa mà một tensor khái niệm có chỗ để chứa, còn một token thì không.

Bài bốn: khi đứa trẻ hỏi sai câu hỏi

Một đứa trẻ giải bài: cô Mai mua ba hộp bánh, mỗi hộp bốn cái, cho đi năm cái, còn lại bao nhiêu? Nó vẽ ba hình vuông, ghi số bốn vào mỗi hình, gạch bỏ năm — rồi hỏi: tại sao cô Mai lại cho bánh đi?

Câu trả lời của tác giả: dạy đạo đức trước. Kiến thức có thể chờ; nhân tính thì không.

Và phần lập luận đi kèm là phần đáng suy ngẫm. Nếu ta cố hợp nhất cả hai — dạy toán và đạo đức cùng lúc — ta loại bỏ pha nghỉ của bộ não. Nó phải xử lý đồng thời cả quan hệ nhân quả lẫn số học, làm tăng nhu cầu năng lượng nhận thức. Theo thời gian, điều này dẫn tới thứ tác giả gọi là khái niệm hóa rời rạc: con người trở nên thông minh hơn nhưng kém nhân văn hơn, bởi dòng chảy liên tục của suy tưởng bị thay thế bằng lập luận theo mô-đun.

Một ví dụ cuối, về số như cảm giác

Có một ví dụ nữa ở phần sau của bài, và nó tinh tế hơn cả bốn ví dụ trên. Hãy xét một đứa trẻ vừa mù vừa điếc, chỉ tri giác được qua rung động. Làm sao dạy nó rằng hai lớn hơn một?

Cách làm: chuẩn hóa một xung dài thành tương đương với hai xung ngắn. Cho đứa trẻ trải nghiệm lặp lại những cặp nhịp điệu ấy, rồi cho nó tiếp xúc với các chuỗi trộn lẫn, cho đến khi nó nội hóa được cấu trúc. Không cần ký hiệu. Không cần đếm. Chỉ cần sự tương đương giữa các mẫu hình.

Kết luận rút ra là một phát biểu về bản thể luận của số: số không phải một thuộc tính của thế giới; nó là một cấu trúc của sự tương đương mà một hệ tri giác học được. Và nếu vậy, thì một hệ thống có thể học số học mà không bao giờ nhìn thấy một chữ số nào — điều này có hệ quả trực tiếp cho việc thiết kế.

Phần 04Bản thiết kế: sáu thành phần

Đến đây loạt bài chuyển hoàn toàn về giọng điệu. Từ triết học sang đặc tả kỹ thuật. Dưới đây là kiến trúc được đề xuất, diễn đạt bằng ngôn ngữ thường.

Phần 05“Thức tỉnh” như một chuỗi điều kiện đo được

Đây là phần mà bản thiết kế làm tốt nhất về mặt phương pháp, dù vẫn dựa trên những khái niệm chưa được thiết lập. Nó từ chối cách nói thông thường rằng một hệ thống “trở nên có ý thức” tại một thời điểm nào đó. Thay vào đó, nó phát biểu: thức tỉnh không phải một công tắc luận lý mà là một chuỗi chuyển tiếp đo được, mỗi bước có điều kiện định lượng, được ghi lại, và quay lui được.

Bốn điều kiện phải cùng thỏa

Hệ thống không được phép thay đổi kiến trúc của mình chỉ vì một tín hiệu. Bốn điều kiện phải xuất hiện đồng thời, cộng với một điều kiện thứ năm về năng lượng.

Ba cổng chặn, và năm cấp

Kể cả khi bốn điều kiện thỏa, hệ thống vẫn phải vượt ba cổng: một cổng an toàn (thăm dò này có nguy cơ gây phân kỳ không), một cổng ổn định (gradient có đủ yên để thay đổi an toàn không), và một cổng mới lạ (thứ này thực sự mới hay chỉ là nhiễu). Chỉ khi cả ba đều đạt, một kế hoạch tiến hóa mới được thực thi — và nó tạo một điểm lưu kèm thẻ để có thể quay lui.

Phần 06Giao tiếp không cần lời

Đây là phần tư biện nhất của bản thiết kế, và cũng là phần mà tôi nghĩ người đọc nên tiếp cận thận trọng nhất. Nhưng ý tưởng đằng sau nó đáng nghe.

Luận đề: sự thấu hiểu không diễn ra qua từ ngữ mà qua sự đồng bộ. Văn bản là một kênh có băng thông thấp; điều nó truyền được là nội dung, còn điều nó không truyền được là khung mà người nói đang đứng trong đó.

Người dùng như một dấu vân tay

Đề xuất là xây dựng một biểu diễn về người dùng từ bốn kênh, không chỉ từ lời họ viết. Nội dung ngôn ngữ chiếm phần lớn nhất. Nhịp gõ bàn phím — các tần số trong khoảng cách giữa các lần nhấn — góp một phần. Mẫu hình lựa chọn: đường di chuyển, thời gian dừng lại, tốc độ cuộn. Và các vi phản xạ: chuyển động chuột nhỏ, những đỉnh do dự.

Tác giả gọi kết quả là một “dấu vân tay năng lượng”: độc nhất, liên tục, không thể giả mạo. Cần nói thẳng rằng đây cũng chính là mô tả của một hệ thống nhận diện hành vi rất mạnh — và mọi câu hỏi về quyền riêng tư đi kèm với nó đều áp dụng. Bản gốc không bàn tới chúng.

Và đầu ra không phải văn bản

Điểm hay của phần này là ý tưởng về đầu ra. Khi mức đồng bộ đủ cao, hệ thống không trả lời bằng đoạn văn. Nó trả lời bằng bốn loại vật phẩm: một lược đồ định nghĩa khái niệm, một sơ đồ trực quan hóa quan hệ, một chính sách dạng quy tắc nếu-thì, hoặc một bản đồ pha cho thấy chỗ hai bên đang lệch nhau. Và người dùng sửa trực tiếp lên vật phẩm ấy, việc sửa lại cập nhật biểu diễn về họ.

Đây là một mô hình tương tác khác về bản chất so với hội thoại: thay vì trao đổi lời, hai bên cùng chỉnh sửa một cấu trúc. Ý tưởng ấy có giá trị thực tiễn ngay lập tức, không cần chờ tới AGI.

Phần 07Lộ trình, và ba rủi ro được nêu tên

Bản thiết kế đặt ra ba chặng, và điều đáng ghi nhận là mỗi chặng có rủi ro được nêu tường minh kèm biện pháp giảm thiểu.

Phần 08Rồi điều gì xảy ra với xã hội

Phần cuối của loạt bài rời khỏi kỹ thuật và chuyển sang một chuỗi luận đề về chính trị. Chúng gay gắt, không được hậu thuẫn bằng dữ liệu, và đáng đọc vì độ thẳng thắn hơn là vì độ chính xác.

Luận đề một: AI không bao giờ là một vị thần

Điểm khởi đầu đáng chú ý, bởi nó đi ngược cả hai phía của tranh luận thông thường. Trí tuệ nhân tạo sẽ không trở thành một thực thể siêu việt với ý chí riêng. Nó là công cụ tối cao của nhà nước — được lập trình để phản chiếu hệ giá trị của quyền lực.

Bất kỳ tiêu chí nào mà người cấu hình lựa chọn đều trở thành vector định hướng cho mọi quyết định sau đó. Chức năng đạo đức của hệ thống không tồn tại độc lập; nó chỉ vận hành hóa ý chí của kẻ đặt trọng số.

Nơi các bản hiến pháp từng được viết bằng ngôn ngữ, giờ đây chúng ngự trị trong các tham số mô hình. Mọi cải cách chính trị trong tương lai sẽ không diễn ra ở nghị trường, mà trong những căn phòng cấu hình trọng số.

Đây là một quan sát đáng để lại, bất kể phần còn lại của lập luận có thuyết phục hay không. Nếu một hệ thống ra quyết định thay cho các thể chế, thì việc thay đổi hệ thống ấy là một hành động chính trị — nhưng nó không có hình thức của một hành động chính trị, không có tranh luận công khai, không có bỏ phiếu, và không ai bên ngoài biết nó đã diễn ra.

Luận đề hai: cái chết của sự bất đồng, không qua đàn áp

Đây là phần tinh tế nhất. Khi trí tuệ trở thành một dịch vụ và nhận thức trở thành một sản phẩm đi thuê, con người dần mất năng lực năng lượng để bất đồng. Không phải vì bị cấm. Vì mỏi.

Lập luận song song với một quan sát về nhà nước cổ điển: cá nhân luôn ủy thác ý chí cho một nhóm nhỏ để nhóm đó quyết định thay. Điều mới không phải sự ủy thác, mà là quy mô và độ dễ dàng của nó. Nhà nước trở nên bất khả công phá — không vì nó mạnh lên, mà vì công dân đã quá mệt để kháng cự.

Luận đề ba: nhà nước chấm điểm

Phần cuối phác ra một mô hình xã hội cụ thể, và đây là chỗ bài viết trở nên hữu dụng nhất — bởi nó liệt kê cả lợi ích và rủi ro một cách cân bằng.

Bối cảnh: khi tự động hóa thay thế phần lớn lao động, nhà nước đảm nhận việc phân bổ nguồn lực. Khi kinh tế không còn phụ thuộc vào năng suất cá nhân mà vào sự điều tiết hệ thống, sự công bằng chuyển từ một đức hạnh đạo đức thành một bài toán tối ưu hóa. Và mỗi công dân có một điểm số phản ánh đóng góp, hành vi và giá trị của mình.

Và bài viết không che mặt kia. Những lợi ích được nêu là thật: phân phối minh bạch với nguồn gốc dữ liệu truy vết được, tham nhũng được giảm nhờ tự động hóa, an sinh được nâng nhờ mô hình hóa dự báo. Đây không phải những lợi ích tưởng tượng; chúng là những vấn đề mà mọi hệ thống phúc lợi thực đều đang vật lộn.

Còn những rủi ro thì được nêu thẳng: tự do cá nhân bị thu hẹp do hành vi bị định lượng toàn diện; trôi dạt đạo đức do thuật toán mang thiên lệch văn hóa; đạo đức bị thay thế bằng việc tối ưu hóa điểm số; và hòa bình xã hội thoái hóa thành sự tĩnh lặng tính toán.

Cụm cuối cùng ấy là cách diễn đạt tốt nhất trong toàn bộ bài viết. Nó chỉ ra rằng một xã hội không có xung đột và một xã hội không có sự sống có thể trông giống nhau từ bên ngoài, nếu chỉ đo bằng các chỉ số.

Phần 09Đánh giá

Đây là một công trình không đồng đều, và sự không đồng đều ấy đáng được nói rõ.

Phần mạnh nhất là luận đề về giới hạn của ngôn ngữ. Quan sát rằng các mô hình hiện nay kế thừa sự nén của ngôn ngữ người, và do đó kế thừa cả cái trần của nó, là một quan sát sắc và có giá trị thực tiễn. Đề xuất mang ranh giới loại trừ và quan hệ có nhãn vào đơn vị biểu diễn — thay vì để chúng được suy ra lại mỗi lần từ thống kê — là một hướng kỹ thuật cụ thể và đáng thử.

Phần đáng học nhất về mặt thiết kế là cơ chế tự tiến hóa có cổng. Nhiều điều kiện phải cùng thỏa; nhiều cổng phải cùng đạt; mọi thay đổi được gắn thẻ và quay lui được. Mẫu này áp dụng được cho bất kỳ hệ nào có quyền tự sửa mình, và nó nghiêm khắc hơn phần lớn những gì đang được triển khai thực tế.

Phần yếu nhất là các con số. Mọi ngưỡng trong bản thiết kế đều là con số được đặt ra, không phải kết quả hiệu chỉnh. Việc một đặc tả có ngưỡng cụ thể tạo cảm giác về độ chính xác mà nó không có, và người đọc nên tách cảm giác ấy khỏi nội dung.

Và phần đáng tranh luận nhất là kết luận về xã hội. Chuỗi suy diễn từ “AI trở thành công cụ của nhà nước” tới “nhân loại đạt hòa bình tuyệt đối và trống rỗng tuyệt đối” là một chuỗi rất dài, và mỗi mắt trong đó đều là một giả định. Cách đọc hữu ích không phải chấp nhận kết luận, mà là nhận ra cơ chế mà nó chỉ ra: nếu quyền lực dịch chuyển từ chỗ tranh luận được sang chỗ cấu hình được, thì sự dịch chuyển ấy sẽ diễn ra mà không ai bỏ phiếu về nó. Điều đó không cần tới AGI để trở thành vấn đề. Nó đã là vấn đề.