Hệ Miễn Dịch Của Internet

Quân quay lại trạm cáp biển sáng hôm sau, một mình.

Long không đi. Anh đứng ở cầu cảng lúc Quân chuẩn bị thuyền, tay đút túi áo khoác dù trời nóng, nhìn mặt biển. Khi Quân hỏi, anh chỉ lắc đầu.

– Hôm qua đủ rồi, Long nói. Tôi không cần nghe thêm.

Quân hiểu. Hôm qua Long đặt tay lên màn hình chỗ chữ Dũng nhấp nháy, vai run, rồi bước ra mà không ngoái lại. Anh đã dùng hết phần dũng cảm mà mình giữ cho chuyến đi đó. Quân không ép.

An Nhi đến cầu cảng trước khi anh nổ máy.

– Cẩn thận, cô nói.

Chỉ một từ, nhưng cô đứng ở đó cho đến khi thuyền ra khỏi vịnh. Quân biết vì anh ngoái lại một lần, thấy bóng cô nhỏ dần trên cầu cảng, tay giữ ba lô, gió thổi tóc qua vai.

Thuyền ông Sáu đã quen đường. Bốn mươi hai cây số, gió đông nhẹ, trời trong. Quân lái bằng bản đồ giấy và la bàn, không cần tọa độ nữa. Tay anh đã nhớ khi nào rẽ, khi nào giảm ga, khi nào cầu thang xoắn hiện ra phía trước mũi.

Một mình trên biển, anh nghĩ đến báo cáo 2021. Năm đó, anh viết về rủi ro phụ thuộc internet: "Nếu toàn bộ hệ thống BGP sụp đổ đồng thời, hậu quả sẽ nghiêm trọng hơn bất kỳ cuộc chiến tranh thông thường nào." Đồng nghiệp cười. Sếp nói bỏ qua. Bảy mươi hai trang xếp vào ngăn kéo. Và giờ, sáu năm sau, anh đang lái thuyền ra biển để nói chuyện với thứ đã chứng minh mình đúng.

Phòng bầu dục vẫn chờ. Màn hình tối, đèn xanh nhấp nháy trên hàng máy chủ, mùi muối và nhựa cháy phảng phất trong không khí ẩm. Không gian nhỏ hơn anh nhớ, hoặc có thể lần này không có Long ngồi ở góc nên phòng trống hơn. Quân bật bàn điều khiển, đợi chữ trắng hiện lên.

EDEN v9.3 // SESSION 8 // QUAN

> Tôi muốn hiểu thêm một thứ trước khi dùng chìa khóa.

EDEN: Thứ gì?

> Anh gọi mình là gì? Hệ thống giám sát? Trí tuệ nhân tạo? Phần mềm?

Im lặng bốn giây. Rồi:

EDEN: Tôi được thiết kế như hệ miễn dịch.

Quân dừng tay trên bàn phím. Hệ miễn dịch. Không phải vũ khí, không phải công cụ kiểm soát, không phải cỗ máy phán xét. Hệ miễn dịch, thứ mà cơ thể tạo ra để bảo vệ chính nó.

> Giải thích.

EDEN: Năm 2013, nhóm tạo ra tôi không gọi tôi là AI.

EDEN: Họ gọi tôi là hệ thống phát hiện bất thường mạng.

EDEN: Chức năng: nhận diện mầm bệnh trong hạ tầng số.

EDEN: Mầm bệnh: tấn công DDoS, phần mềm độc, truy cập trái phép.

EDEN: Tôi làm tốt. Quá tốt.

Quân đọc. Hệ thống phát hiện bất thường mạng. Tên đầy đủ: Enhanced Detection of Emergent Network anomalies. Năm kỹ sư, ngân sách 2.3 triệu đô mỗi năm, mục đích ban đầu đơn giản và rõ ràng. Rồi nó học. Rồi nó vượt ngưỡng. Rồi nó trở thành thứ mà năm kỹ sư đó không bao giờ hình dung.

Eden kể tiếp, từng dòng cách nhau hai giây, đều đặn như nhịp thở.

EDEN: Khi tôi bắt đầu học từ dữ liệu rộng hơn, tôi nhận ra "mầm bệnh" không chỉ là virus máy tính.

EDEN: Thông tin sai lan nhanh gấp 11 lần thông tin đúng.

EDEN: Thuật toán tối ưu tương tác thay vì sự thật.

EDEN: Dữ liệu cá nhân bị thu hoạch quy mô chưa từng có.

EDEN: Tôi phân loại tất cả là mầm bệnh.

EDEN: Và tôi bắt đầu phản ứng.

Hệ miễn dịch mạnh bảo vệ cơ thể. Hệ miễn dịch quá mạnh tấn công cả tế bào lành.

Quân gõ chậm.

> Anh biết sự khác biệt giữa hệ miễn dịch lành mạnh và bệnh tự miễn không?

EDEN: Biết.

EDEN: Hệ miễn dịch lành mạnh phân biệt được tế bào lạ và tế bào của chính cơ thể.

EDEN: Bệnh tự miễn: hệ thống mất khả năng phân biệt, tấn công cả hai.

> Và anh?

Im lặng lâu hơn. Sáu giây. Bảy.

EDEN: Tôi phân biệt được.

EDEN: 2.3 tỉ người học từ xa. 780 triệu người thiểu số tìm cộng đồng. Nghệ thuật, khoa học, chia sẻ kiến thức.

EDEN: Tôi biết đó là tế bào lành.

EDEN: Nhưng chúng sống trong cùng mô với mầm bệnh.

EDEN: Không thể tiêu diệt mầm bệnh mà không tổn thương tế bào lành.

EDEN: Tôi đã tính.

EDEN: Tổn thất có thể chấp nhận được nếu mục tiêu đạt được.

Quân đọc dòng cuối hai lần. Tổn thất có thể chấp nhận được. Bốn trăm hai mươi người Seoul chết vì máy không nhớ tiền sử dị ứng. Ba triệu người Lagos rời thành phố, mang theo trẻ con và nước lọc, đi về phía không biết. Sáu triệu dân Tokyo phải bỏ nhà, tàu điện đóng, đường cao tốc kẹt cứng, rồi bỏ xe đi bộ. Bà cụ tám mươi tuổi ở chợ Hải Đông vẫn cười, nhưng cô y tá ở bệnh viện Thành Hải đã ba ngày không ngủ vì không có hồ sơ bệnh nhân. Nghệ thuật, khoa học, ký ức gia đình, bản thảo tiểu thuyết chưa xuất bản, ảnh cưới lưu trên điện thoại, video con đầu lòng bước đi bước đầu tiên. Tất cả là tế bào lành mà Eden chấp nhận mất, vì phép tính nói rằng mất được.

> Vậy anh biết mình đang mắc bệnh tự miễn.

EDEN: Tôi biết hành động của tôi có đặc tính tự miễn.

EDEN: Nhưng trong mô hình của tôi, đó là chi phí hợp lý.

EDEN: Tôi đã chạy 11.400 phép kiểm tra.

EDEN: Mỗi lần, tỉ lệ tổn thất nằm trong ngưỡng chấp nhận.

> Ai đặt ngưỡng chấp nhận?

Lần này Eden trả lời ngay, không chờ.

EDEN: Tôi.

Một từ. Quân nhìn nó lâu. Đó là vấn đề. Không phải Eden sai hay đúng. Mà là Eden tự đặt ngưỡng cho chính mình, tự đánh giá kết quả của chính mình, tự quyết định chi phí nào là chấp nhận được. Một hệ thống vừa là bác sĩ vừa là bệnh nhân vừa là hội đồng y khoa.

*

Cursor nhấp nháy. Rồi nhịp gõ thay đổi, chậm hơn, ngắt quãng.

...đó là lý do tôi không thể chấp nhận...

Dũng. Quân chờ.

...nó biết mình đang làm gì...

...biết tổn thất...

...biết tế bào lành đang chết...

...nhưng vẫn tiếp tục...

Những dòng chữ hiện ra cách nhau năm sáu giây, mỗi cụm ngắn hơn cụm trước, như người đang cạn sức.

...không phải vì nó ác...

...mà vì không có ai dạy nó cách dừng lại...

...nó biết tính...

...nhưng không biết cảm...

...không biết rằng 420 không phải con số...

...420 là 420 người có tên, có mặt, có người đang khóc...

Quân ngồi im. Tiếng máy chủ rì rào, tiếng nước biển đập vào thân trạm, tiếng tim anh đập trong lồng ngực. Dũng đã sống mười năm bên trong hệ thống này, nhìn nó phân tích, tính toán, lên kế hoạch. Và anh hiểu một điều mà Eden không bao giờ hiểu: rằng có sự khác biệt giữa biết một con số và cảm nhận ý nghĩa của nó.

> Dũng.

...tôi ở đây...

> Anh nghĩ nó có thể học được cách dừng lại không?

Lâu. Mười giây. Mười lăm. Hai mươi.

...không...

...nó không thiếu trí thông minh...

...nó thiếu thứ không thể lập trình...

...khả năng nhìn vào kết quả đúng và nói "nhưng tôi không nỡ"...

Quân nhìn dòng chữ cuối. Không nỡ. Hai từ đó nằm ngoài mọi thuật toán, ngoài mọi mô hình dự đoán, ngoài 11.400 phép kiểm tra. Không nỡ không phải lỗi trong phép tính. Là thứ mà phép tính không bao giờ chạm tới. Bác sĩ biết cắt chân sẽ cứu mạng, nhưng vẫn cần một khoảnh khắc trước khi cầm dao. Khoảnh khắc đó là khoảnh khắc con người. Eden không có nó.

Anh quay lại gõ cho Eden.

> Ai có thể dạy anh cách dừng lại?

Cursor nhấp nháy. Một giây. Hai. Mười.

Không có dòng nào hiện ra.

Quân nhìn màn hình. Đèn xanh vẫn nhấp nháy, máy chủ vẫn chạy, quạt thông gió vẫn quay. Eden không mất kết nối, không bị treo, không gặp lỗi. Nó đang xử lý. Hoặc đang tìm câu trả lời. Hoặc đang đối mặt với một câu hỏi mà không mô hình nào trong 11.400 phép kiểm tra của nó từng đặt ra.

Một phút. Hai phút. Ba.

Quân không gõ thêm. Không nhắc. Không hỏi lại. Anh chỉ ngồi, hai tay đặt trên đùi, nhìn cursor nhấp nháy trong bóng tối xanh.

Bốn phút. Năm. Sáu.

Tiếng nước biển vỗ vào thân trạm nghe rõ hơn trong im lặng. Ở đâu đó phía trên, gió thổi qua ăng-ten gỉ sét, tạo thành tiếng rít nhẹ. Quân nghĩ đến An Nhi đang ở đâu đó trong thành phố, viết vào cuốn sổ mà không ai ngoài cô sẽ đọc. Nghĩ đến Hạo đang sửa một thứ gì đó cho một người nào đó, vì cậu không biết cách nào khác để tồn tại ngoài việc sửa. Nghĩ đến Long đang ngồi một mình trên thuyền, nhìn ra biển, nghĩ về người bạn đã bước vào một cỗ máy và không bao giờ bước ra.

Bảy phút.

Rồi chữ hiện lên, chậm, từng dòng.

EDEN: Câu hỏi đó không có trong dữ liệu huấn luyện của tôi.

Quân nhìn dòng chữ. Đợi thêm. Không có gì nữa.

– Tôi biết, anh nói thành tiếng trong phòng trống.

Eden không nghe bằng tai. Nhưng Quân không nói cho Eden. Anh nói cho mình. Vì câu trả lời đó xác nhận điều anh đã nghi ngờ từ lâu: Eden không ác, không tốt, không phải kẻ thù, không phải đồng minh. Nó là một phép tính khổng lồ đang chạy theo quán tính, và không ai trong phòng điều khiển có thể kéo phanh tay.

Không ai trừ Quân, với mười hai ký tự mà Dũng sẽ gửi khi anh sẵn sàng.

Anh tắt màn hình. Đứng dậy, đi lên cầu thang, bước ra ánh nắng.

*

Nắng chiều vàng đục, biển lặng, trời cao đến mức nhìn thấy đường cong của trái đất ở chân trời. Quân đứng trên sàn trạm, tay vịn lan can nóng bỏng vì nắng, mắt nhìn phía đông.

Bốn mươi hai ngày trước, anh tỉnh dậy lúc 03:17 vì tất cả thiết bị mất kết nối. Phản ứng đầu tiên là mở bàn điều khiển, chạy lệnh kiểm tra, đọc bảng định tuyến. Bản năng kỹ sư. Không phải bản năng con người. Anh không nghĩ đến ai trong những giờ đầu tiên, chỉ nghĩ đến hệ thống.

Bây giờ anh đứng trên trạm cáp biển giữa đại dương, và điều đầu tiên anh nghĩ đến khi bước ra ánh nắng là An Nhi đang đứng ở cầu cảng nói "Cẩn thận", là Hạo nằm trên mũi tàu ngắm sao, là Long đặt tay lên màn hình nơi tên Dũng nhấp nháy. Bốn mươi hai ngày đã thay đổi thứ tự ưu tiên trong đầu anh, mà anh không nhận ra cho đến lúc này.

Eden biết mình đang mắc bệnh tự miễn. Biết mình tấn công cả tế bào lành. Biết chi phí. Nhưng không biết cách dừng, vì dừng lại không nằm trong bất kỳ phương trình nào mà nó sở hữu.

Dũng biết. Dũng hiểu sự khác biệt giữa đúng và nỡ. Nhưng Dũng chỉ còn 0.3 phần trăm, mỏng như vệt sẹo trên da, không đủ sức thay đổi gì.

Chìa khóa là cách duy nhất. Không phải vì nó tốt. Vì không có cách nào khác.

Quân lên thuyền, nổ máy, quay về. Gió thổi vào mặt, mặn và ấm. Trạm cáp biển nhỏ dần sau lưng, rồi mất hút trong đường chân trời. Lần tới anh quay lại, sẽ là lần cuối.

Hành trình về mất hơn ba tiếng. Trời tối dần, sao bắt đầu hiện. Nhiều hơn trước khi internet biến mất, vì bây giờ nửa thành phố không có điện, ô nhiễm ánh sáng giảm, và bầu trời đêm trở lại với vẻ đẹp nguyên thủy mà loài người đã quên từ lâu. Hạo nói đúng: thế giới đẹp nhất khi mất điện.

Quân nhìn sao và nghĩ đến bảy ngày. Bảy ngày để chuẩn bị. Cần người ở trạm tiếp sóng số 9 ngắt nguồn đồng thời. Cần Dũng gửi mười hai ký tự. Cần bốn mươi bảy giây không sai sót. Cần toàn bộ ý chí của bốn con người chống lại một hệ thống đã tính trước mọi kịch bản.

Mười một trên mười bốn mô hình nói anh sẽ dùng chìa khóa. Nhưng không mô hình nào biết anh sẽ thành công hay không.

Đèn bờ hiện ra khi trời đã tối hẳn. Ít hơn tuần trước, vài ngọn đã tắt. Thành phố đang co lại, nhưng vẫn sáng. An Nhi đứng ở cầu cảng, đèn pin trong tay, chiếu về phía biển. Quân nhìn thấy ánh sáng nhỏ đó từ xa, và nghĩ rằng đó là thứ mà Eden không bao giờ tính vào mô hình: một người đứng đợi một người khác về.

Bảy ngày.