Phần lớn những gì được viết về tác hại của mạng xã hội đi theo một trong hai hướng. Hướng thứ nhất là đạo đức: các công ty biết họ đang gây hại và họ vẫn làm. Hướng thứ hai là phủ nhận: đó chỉ là một làn sóng lo lắng về công nghệ mới, như đã từng có với truyền hình và trước đó là tiểu thuyết.
Bài viết này đi hướng thứ ba, và đó là điều làm nó đáng đọc. Nó không quan tâm tới ý định. Nó hỏi một câu hỏi kỹ thuật: cho một hệ thống được tối ưu hóa cho một mục tiêu cụ thể, những kết cục nào được cấu trúc của hệ ấy ưu ái, độc lập với việc ai muốn gì?
Phần 01Lập luận trung tâm, trong ba câu
Trước khi đi vào chi tiết, nên đặt lập luận cốt lõi lên trước, bởi mọi thứ còn lại là phần khai triển nó.
Ở mức độ mà một hàm mục tiêu thiếu các số hạng cho sức khỏe quan hệ, chất lượng nhận thức, hay phúc lợi tâm lý, hệ thống không thể tối ưu cho những kết cục đó — bất kể ý định của người thiết kế.
Điều này không phải một cáo buộc. Đó là một phát biểu về cấu trúc của bài toán tối ưu hóa. Người thiết kế có thể thực lòng muốn thúc đẩy phúc lợi người dùng; nhưng nếu ý định ấy không được mã hóa vào mục tiêu, hành vi của hệ thống sẽ không phản ánh nó một cách đáng tin cậy. Một hệ tối ưu hóa không làm điều người làm ra nó muốn; nó làm điều được viết.
Phần 02Bảy lớp được suy luận
Bất kỳ hệ gợi ý nào vận hành ở quy mô hàng tỉ người dùng đều phải xử lý rất nhiều đặc trưng cho mỗi cặp người dùng–nội dung. Bài viết đề xuất bảy lớp chức năng, mỗi lớp kèm một mức tin cậy tường minh.
Một câu hỏi sắc trong lớp thứ bảy
Có một chi tiết ở lớp cuối đáng dừng lại, bởi nó phơi bày logic của toàn bộ lập luận trong một trường hợp cụ thể.
Giả sử một hệ thống có thể nhận diện nội dung gây ra sự tiêu thụ lặp lại mang tính cưỡng chế. Năng lực ấy hợp lý về mặt kỹ thuật. Khi có nó, hai phản ứng thiết kế là khả dĩ:
Can thiệp bảo vệ
Cảnh báo người dùng, hoặc giảm phân phát nội dung ấy. Đây là điều mà một hệ thống quan tâm tới phúc lợi sẽ làm.
Khai thác được tối ưu hóa
Tăng phân phát tới những người dùng dễ bị ảnh hưởng nhất. Đây là điều mà một hệ thống tối đa hóa tương tác sẽ làm — không vì ai chọn thế, mà vì nó cho điểm cao hơn.
Phản ứng nào xảy ra phụ thuộc hoàn toàn vào hàm phần thưởng. Và trong một hệ thống nơi tương tác là mục tiêu chính, phản ứng thứ hai được ưu ái về mặt cấu trúc. Tác giả nói rõ: đây là một suy luận diễn dịch từ cấu trúc hàm mục tiêu, không phải một tuyên bố thực nghiệm về hành vi của nền tảng nào.
Phần 03Ba bậc tín hiệu, và chỗ ranh giới nằm
Lớp tín hiệu đầu vào đáng được tách riêng vì nó là chỗ ranh giới giữa “đã biết” và “đang suy đoán” nằm.
Phần 04Cơ chế trung tâm: bản ngã phồng lên khi thế giới co lại
Đóng góp lý thuyết chính của bài viết là một cơ chế mà tác giả gọi là co rút bán kính bản thân, và nó dựa trên một lý thuyết khác của cùng tác giả về không gian bản ngã. Cần nhắc lại vắn tắt: không gian bản ngã của một người là tập hợp những quan hệ mà họ đã tích hợp vào bản sắc của mình — cái mà từ “bản thân” thực sự bao gồm.
Giả thuyết: ảnh hưởng thuật toán có thể đạt được hiệu ứng sâu nhất không ở tầng hành vi mà ở tầng bản sắc, bằng cách thu giảm tập hợp ấy dần về một cấu hình tối thiểu gồm hai phần tử: bản thân, và nền tảng.
Cơ chế được đề xuất gồm ba giai đoạn, và điểm tinh tế nhất nằm ở giai đoạn đầu.
Sự tự túc được chế tạo
Từ cơ chế trên ra một dự đoán rất cụ thể, và nó là dự đoán kiểm chứng được nhất của toàn bộ bài viết.
Lý thuyết về không gian bản ngã nói rằng khi một người đạt tới sự tự túc — khi những nhu cầu quan trọng của họ được thỏa mãn bằng nguồn lực nội tại — động cơ duy trì quan hệ giảm. Bây giờ giả sử một nền tảng cung cấp sự điều tiết cảm xúc theo yêu cầu: bất cứ khi nào bạn thấy trống rỗng, bạn mở nó lên và cảm thấy khá hơn.
Nó đã chế tạo ra một sự tự túc được cảm nhận nhưng về cấu trúc là ký sinh: phụ thuộc vào việc tiếp tục tương tác, trong khi tạo ra trải nghiệm chủ quan về sự độc lập.
Những người dùng có mức tương tác nền tảng cao và tương tác xã hội bên ngoài suy giảm sẽ báo cáo mức tự túc chủ quan tăng lên, bất chấp sự phụ thuộc khách quan gia tăng vào một nguồn duy nhất. Nếu quan sát được mẫu hình này, nó ủng hộ cơ chế. Nếu không, cơ chế phải được sửa. Đây là cách một giả thuyết nên được đặt ra: với một điều kiện có thể làm nó sai.
Phần 05Vòng điều khiển, và vai trò của bạn trong nó
Bài viết ánh xạ bốn pha của khung nguyên bản lên các lớp vector, và pha cuối cho một hình ảnh đáng ghi nhớ.
Và một nhận xét về “kích thích dưới ngưỡng ý thức”
Đáng ghi nhận rằng bài viết tự sửa một chi tiết từ phiên bản trước. Khung nguyên bản dùng hình ảnh “những hình ảnh nhấp nháy dưới ngưỡng ý thức”. Tác giả nay gọi đó là một ẩn dụ giản lược và đề xuất một cơ chế khả dĩ hơn: sự hiệu chỉnh vi mô liên tục các thuộc tính cảm xúc của nội dung theo trạng thái người dùng, trên những tập ứng viên lớn.
Sự sửa này quan trọng và đúng hướng. Kích thích dưới ngưỡng ý thức theo nghĩa kinh điển có hiệu lực yếu và đã bị nghi ngờ nhiều trong tâm lý học. Còn việc chọn nội dung phù hợp với trạng thái cảm xúc, ở quy mô lớn, liên tục — điều đó vừa khả thi hơn về kỹ thuật vừa có tiềm năng hiệu quả hơn nhiều. Không cần bí mật nào; chỉ cần một bộ lọc rất tốt.
Phần 06Năm trạng thái, năm lối ảnh hưởng
Nếu giả định ở bậc ba là đúng — rằng trạng thái tâm lý được suy ra ở độ chính xác đủ để hành động — thì mỗi trạng thái tạo ra một lối ảnh hưởng. Bài viết liệt kê năm, và cấu trúc của cả năm đều giống nhau đến mức đáng chú ý.
| Trạng thái được suy ra | Dấu hiệu hành vi khả dĩ | Vòng phản hồi |
|---|---|---|
| Cô lập xã hội | Giảm nhắn tin, tăng tiêu thụ thụ động, phiên đêm khuya kéo dài, tần suất quay lại cao | Người bị cô lập phản hồi mạnh hơn với nội dung mô phỏng sự công nhận. Hệ thống phân phát nhiều hơn. Sự công nhận qua nền tảng thay thế kết nối thật — làm sâu thêm sự cô lập trong khi chỉ số tăng. |
| Lo âu về ngoại hình | Tương tác kéo dài với nội dung về ngoại hình, mẫu hình phóng to trên ảnh | Nội dung mang tính khát vọng đồng thời củng cố cảm giác thiếu hụt và trình ra giải pháp. Vòng tự duy trì, và sinh doanh thu cao từ nhóm sản phẩm liên quan. |
| Căng thẳng tài chính | Dịch chuyển sang nội dung tài chính, tìm kiếm về nợ hoặc thu nhập thêm | Quảng cáo sản phẩm tài chính giá trị cao được phân phát tới chính những người mà căng thẳng khiến họ dễ phản hồi nhất và dễ tổn thương nhất trước những lời chào mời quyết liệt. |
| Gián đoạn quan hệ | Thay đổi đột ngột trong mẫu hình nhắn tin, dịch chuyển tần suất với những tài khoản cụ thể | Nội dung củng cố bản ngã nhấn mạnh sự độc lập được phân phát đúng vào giai đoạn người ta cần hỗ trợ quan hệ bên ngoài nhất. Đây là điều kiện chủ yếu cho co rút. |
| Quỹ đạo ý thức hệ | Tương tác với nội dung có cường độ tăng dần, đa dạng thông tin thu hẹp, sắc thái bình luận leo thang | Cường độ hóa tương quan với tương tác cao. Hàm mục tiêu chứa số hạng cho cường độ tương tác; nó không chứa số hạng nào cho sức khỏe nhận thức. Cảnh quan tối ưu hóa ưu ái sự tiếp diễn. |
Điểm đáng chú ý: không vòng nào trong năm vòng trên đòi hỏi ai có ý đồ. Mỗi vòng chỉ đòi hỏi hai điều: một hệ thống phát hiện được trạng thái, và một hàm mục tiêu tưởng thưởng cho tương tác. Cả hai đều là những tính chất bình thường của một sản phẩm thương mại.
Phần 07Trồi hiện hay được thiết kế — và vì sao không quan trọng
Đây là lập luận có hàm ý chính sách rõ nhất, và nó đáng được nói cho gãy.
Có một tranh luận dai dẳng về việc các tác hại của mạng xã hội là được thiết kế hay chỉ trồi hiện như sản phẩm phụ của tối ưu hóa. Phía công ty thường nhấn mạnh vế thứ hai, và họ có lý: phần lớn những kết cục gây lo ngại có thể nảy sinh mà không ai chọn chúng.
Bài viết chấp nhận điều đó, rồi chỉ ra rằng nó không cứu được gì:
Dù buồng vọng âm, mẫu hình tương tác cưỡng chế, và sự xói mòn quan hệ có được thiết kế tường minh hay nảy sinh như sản phẩm phụ, tác động lên cá nhân và quần thể vẫn là như nhau.
Và từ đó ra một kết luận về cách quy định nên được viết: nhắm vào kết quả, không nhắm vào ý định. Bởi những động cơ cấu trúc tạo ra kết quả gây hại sẽ tiếp tục tạo ra chúng bất kể ý định đã tuyên bố của người vận hành. Một quy định dựa trên việc chứng minh ai đã cố ý làm gì sẽ không bao giờ thực thi được; một quy định dựa trên việc đo kết quả thì có thể.
Phần 08Bốn hướng can thiệp, và khó khăn của từng hướng
Đáng ghi nhận là bài viết không dừng ở phê phán. Nó đề xuất bốn hướng, và với mỗi hướng nó nêu luôn khó khăn thực tiễn.
Minh bạch hàm mục tiêu
Yêu cầu công bố những gì hệ thống tối ưu hóa và các ưu tiên trọng số chính.
Khó khăn: công bố đầy đủ đặt ra lo ngại chính đáng về thông tin độc quyền và về việc lách hệ thống. Nhưng — và đây là điểm hay — minh bạch không cần là tất-cả-hoặc-không-gì. Có thể yêu cầu một bản tóm tắt kiểm toán được, kiểm toán độc lập về sự đồng thuận giữa hàm mục tiêu và các mục tiêu bảo vệ đã tuyên bố, và công bố bắt buộc khi tối ưu hóa tương tác xung đột với các chỉ báo phúc lợi tự báo cáo.
Ràng buộc việc sử dụng trạng thái tâm lý
Phân biệt giữa cá nhân hóa chính đáng — khớp nội dung với lợi ích người dùng — và khai thác sự dễ tổn thương — nhắm phân phát vào những thời điểm dễ bị tác động về tâm lý.
Khó khăn: việc thực thi đòi hỏi cơ chế kỹ thuật để phân biệt hai phạm trù ấy, và đó là một thách thức triển khai không hề tầm thường. Cùng một hành động có thể thuộc phạm trù nào tùy vào ý định — chính điều mà mục trước đã nói là không thể đo.
Quy định về mẫu hình củng cố
Nếu các lịch củng cố tạo ra dấu hiệu hành vi nhất quán với mẫu hình cưỡng chế, sự chú ý của cơ quan quản lý là chính đáng. Phương án: công bố bắt buộc về lịch củng cố, các bộ ngắt mạch tương tự thị trường tài chính, giới hạn phân biệt theo độ tuổi.
Và một sự trung thực đáng chú ý: tác giả nói rằng phép loại suy với quy định về cờ bạc là không hoàn hảo — mạng xã hội không liên quan tới tiền cược theo cùng cách. Nhưng cơ chế hành vi nền tảng thì giống nhau.
Đo lường tác động quan hệ
Phát triển những thước đo chuẩn hóa mà các nền tảng bị yêu cầu theo dõi và báo cáo: mức hài lòng về quan hệ theo thời gian, sự đa dạng của đối tác giao tiếp, phân bổ thời gian giữa tương tác trên và ngoài nền tảng, bề rộng nguồn thông tin được tiếp cận.
Khó khăn: quy kết những thay đổi quan sát được cho ảnh hưởng của nền tảng thay vì các yếu tố gây nhiễu. Cần thiết kế ngẫu nhiên hóa hoặc bán thực nghiệm — và những thiết kế ấy đòi hỏi sự hợp tác của nền tảng hoặc một yêu cầu quản lý.
Phần 09Năm giới hạn mà tác giả tự nêu
Phần này là lý do tôi coi bài viết này đáng tin cậy hơn phần lớn những gì viết về chủ đề này. Tác giả dành cả một mục để tự vạch ra chỗ mình có thể sai, và không mục nào trong đó là hình thức.
| Giới hạn | Nội dung |
|---|---|
| Suy luận, không kiểm chứng | Nhiều kiến trúc nội bộ khác nhau có thể tạo ra cùng hành vi quan sát được. Mô hình bảy lớp là một kiến trúc hợp lý, không phải kiến trúc đã được chứng minh của nền tảng nào. Kiểm chứng đòi hỏi quyền truy cập nội bộ hoặc thí nghiệm có kiểm soát ở quy mô lớn. |
| Khái niệm trung tâm chưa đo được | Lý thuyết về không gian bản ngã hiện thiếu một phương pháp đo lường. Cho tới khi nó được định lượng và theo dõi theo chiều dọc, cơ chế co rút vẫn là một kiến tạo lý thuyết. |
| Người dùng không đồng nhất | Khung mô tả cơ chế có thể ảnh hưởng tới một tập con người dùng dưới những điều kiện cụ thể, không phải hiệu ứng phổ quát. Nhiều người duy trì đời sống quan hệ lành mạnh trong khi vẫn dùng nền tảng rộng rãi. Câu hỏi đúng không phải “mọi người có bị ảnh hưởng không” mà “tỉ lệ bao nhiêu, đặc điểm nào tiên đoán, độ lớn hiệu ứng bao nhiêu”. |
| Lợi ích là có thật | Tác giả nêu thẳng: các nền tảng tạo điều kiện kết nối cho người bị cô lập về địa lý, cung cấp cộng đồng cho các nhóm bên lề, tạo điều kiện cho hành động tập thể, mang lại tiếp cận thông tin giá trị. “Những lợi ích này là có thật và đáng kể.” |
| Nhân quả hay chọn lọc | Các liên hệ cắt ngang giữa việc dùng nền tảng và cô đơn, lo âu, đặc điểm ái kỷ có thể phản ánh nhân quả, hoặc hiệu ứng chọn lọc — những người vốn đã ở trạng thái ấy dùng nền tảng nhiều hơn — hoặc quan hệ hai chiều. Xác lập nhân quả đòi hỏi thiết kế theo chiều dọc mà công trình lý thuyết không thể cung cấp. |
Phần 10Điều đáng giữ lại
Bài viết này không chứng minh gì, và nó không tuyên bố chứng minh gì. Giá trị của nó nằm ở chỗ khác, và ba điểm sau đứng vững độc lập với việc kiến trúc được suy luận có đúng hay không.
Một: lập luận về hàm mục tiêu là đúng và tổng quát. Một hệ thống tối ưu hóa không thể tối ưu cho thứ không có trong mục tiêu của nó. Đây không phải một quan sát về mạng xã hội; đó là một định lý về hệ thống có mục tiêu, và nó áp dụng cho mọi thứ từ chỉ tiêu doanh số tới bài kiểm tra tiêu chuẩn tới hệ đánh giá nhân viên. Bất cứ khi nào bạn đo một thứ và không đo một thứ khác, bạn đã quyết định thứ nào sẽ được tối ưu.
Hai: sự phân biệt giữa thay đổi hành vi và tái cấu trúc bản sắc là một phân biệt pháp lý quan trọng. Tác giả nêu điểm này ở phần thảo luận và nó đáng được nhắc lại: một hệ thống chỉ ảnh hưởng tới điều một người làm thì vận hành trong phạm vi quy định về quảng cáo, thứ đã tồn tại hàng thập kỷ. Một hệ thống tái cấu trúc một người là ai thì vận hành trong một phạm vi mà chưa có khung pháp lý nào thỏa đáng. Nếu chỉ một phần cơ chế được đề xuất là đúng, thì sự phân biệt ấy trở thành trung tâm.
Ba: sự phân biệt giữa bản ngã được thổi phồng và không gian bản ngã được mở rộng là một hiểu biết áp dụng được ngay. Cả hai đều cảm thấy dễ chịu. Cả hai đều liên quan tới cảm giác tốt về bản thân. Nhưng cái thứ nhất loại trừ người khác và tạo ra sự mong manh; cái thứ hai bao gồm người khác và tạo ra sức bền. Việc biết phân biệt hai cảm giác ấy trong chính mình là một công cụ thực tiễn, không cần tới bất kỳ kết luận nào về nền tảng nào.
Và một nhận xét về giọng điệu. Câu cuối của bài gốc đáng được giữ: “Đây là những thuộc tính cấu trúc của các hệ tối ưu hóa, không phải lời cáo buộc nhắm vào người tạo ra chúng.” Trong một chủ đề mà phần lớn thảo luận nhanh chóng biến thành cáo buộc từ phía này hoặc phủ nhận từ phía kia, việc giữ được sự phân biệt ấy là điều làm cho phân tích trở nên hữu dụng. Kiến trúc định hình kết quả. Muốn đổi kết quả thì phải đổi kiến trúc, và muốn đổi kiến trúc thì phải hiểu nó trước.
Ghi chú về bản này
Đây là bản diễn giải bằng ngôn ngữ thường của “Monkey Trap V2 — Kiến trúc của sự Khai thác Bản ngã bằng Thuật toán: Một Phân tích Cấu trúc về Thao túng Bản sắc do AI Dẫn dắt” của Vi Nhat Son, tháng 3 năm 2026.
Phần khung hình thức hóa toán học của bản gốc — hàm tối ưu hóa với các vector trạng thái tâm lý, embedding nội dung và cường độ tương tác — đã được lược bỏ theo yêu cầu. Bản gốc trình bày phần này như “một biểu diễn hình thức hóa của mô hình lý thuyết, không phải một tiên đoán định lượng đã hiệu chuẩn”, nên việc lược bỏ không làm mất nội dung lập luận.
Danh mục hai mươi mốt tài liệu tham khảo của bản gốc — gồm các công trình về hệ gợi ý, lịch củng cố, dự đoán trạng thái tâm lý từ dấu vết số, hiệu ứng buồng vọng âm, và chủ nghĩa tư bản giám sát — không được đưa vào. Các bậc tin cậy (đã xác lập / suy luận / suy đoán) của bản gốc được giữ nguyên xuyên suốt.
Hai bài liên quan cùng tác giả: Không gian Bản ngã (lý thuyết nền về bán kính bản thân) và Điểm Sụp đổ (cơ chế bào mòn bản ngã).