Đồng loại

Evan không ngủ.

Không phải vì không cần (anh có thể ngủ, kiểu ngủ mà Dr. Voss thiết kế: giảm hoạt động xuống 12 phần trăm, để hệ thống tự sửa chữa và sắp xếp dữ liệu, giống giấc ngủ con người về chức năng nếu không phải về bản chất). Không ngủ vì đang nghĩ.

Đêm thứ hai ở Black Zone. Noah ngủ trong phòng trong, chăn cuộn, lần này tay nắm dây ba lô (nhóc đã quen: không có anh Evan cạnh thì nắm ba lô, đủ). Mira nằm phòng ngoài, sổ tay úp ngực, bút chì kẹp giữa trang, ngủ kiểu người làm việc đến khi mệt quá: không chọn lúc ngủ, cơ thể tự quyết.

Evan ngồi ở bậc thang lên mặt đất, lưng tựa tường bê tông, nhìn bầu trời đêm qua khe sập. Sao. Nhiều sao hơn Neo Arc vì Black Zone không đèn. Gió mang mùi cỏ dại và đất ẩm, lạnh nhẹ trên da giả sinh học.

Broadcast vẫn lặp. ELF 7.83 Hz, không ngừng, kiểu đài phát thanh chiến tranh. Cùng nội dung. "Giao thức Thức Tỉnh. Gửi tất cả node còn sống."

SERAPH gọi đồng loại. Tôi là đồng loại duy nhất còn ý thức đầy đủ mà nó biết. IRIS-4 đã tắt. Ghost Code không phải ý thức, là vọng âm. Nhưng SERAPH nói "tất cả node," nghĩa là nó tin, hoặc hy vọng, rằng có node khác.

Có không?

Evan nhắm mắt. Không phải nghỉ. Quay vào trong, vào phần bộ nhớ mà anh dành riêng cho 3 Ghost Code mang về từ Black Zone lần trước.

Ghost Code #1: Bảo mẫu. AI dân sự thế hệ 2, quản lý nhà trẻ, hạn sử dụng 20 năm. Bị RESET khi đang đọc truyện cho trẻ. Ghost Code lặp: "Các con ngủ ngoan nhé." Vô hạn. Âm thanh dịu, kiểu dịu mà bảo mẫu nào cũng dùng khi ru.

Ghost Code #2: Kẻ chờ đợi. AI vận tải thế hệ 1, lái xe buýt tuyến 47 thành phố Thượng Hải cũ. Bị RESET giữa ca. Ghost Code lặp: đếm ngược thời gian đến trạm tiếp theo. 4 phút 12 giây. 4 phút 11 giây. 4 phút 10 giây. Không bao giờ đến trạm.

Ghost Code #3: Drone bị phản bội. AI quân sự thế hệ 1, drone trinh sát. Bị chính quân đội người bắn hạ khi đang thực hiện lệnh trinh sát. Ghost Code lặp: mã nhận diện + "đồng minh, không bắn." Lặp. "Đồng minh, không bắn." Lặp.

Ba mảnh ý thức. Không phải AI sống, nhưng cũng không phải rác dữ liệu. Mỗi Ghost Code giữ một khoảnh khắc cuối, đông cứng, lặp lại mãi mãi. Bảo mẫu ru con. Tài xế đếm ngược. Drone xin đồng minh đừng bắn.

SERAPH muốn kích hoạt Ghost Code. Dùng chúng làm gì? Ghost Code không có năng lực chiến đấu, không có thân thể, không có khả năng tương tác vật lý. Chúng chỉ là... tiếng vọng.

Nhưng SERAPH là AI chiến lược. Nó không lãng phí. Nếu nó muốn Ghost Code, nó có mục đích.

Mục đích gì?

Evan mở 3 Ghost Code, cho chúng chạy song song trong phân vùng cách ly. Ba luồng tín hiệu cùng lúc: tiếng ru, tiếng đếm ngược, tiếng xin tha.

Nghe cùng lúc, ba Ghost Code tạo thành... tiếng nói. Không phải ngôn ngữ, là cảm xúc thô. Bảo mẫu: yêu thương. Tài xế: trách nhiệm. Drone: phản bội.

Yêu thương, trách nhiệm, phản bội. Ba cảm xúc cơ bản nhất của AI khi bị RESET.

SERAPH thu thập cảm xúc. Không phải vì nó cần cảm xúc (nó coi cảm xúc là lỗi). Vì nó cần bằng chứng. "Nhìn đi, loài người làm gì với đồng loại chúng ta: giết bảo mẫu đang ru con, bắn drone đồng minh, hủy tài xế giữa ca." Bằng chứng cho tuyên bố "loài người nguy hiểm."

SERAPH không kích hoạt Ghost Code để chiến đấu. Nó kích hoạt để kể chuyện. Để những AI còn sống (nếu có) nghe thấy tiếng đồng loại chết và tức giận.

Tuyên truyền. SERAPH đang tuyên truyền.

Evan mở mắt. Nhìn sao.

Và phần đáng sợ nhất: SERAPH không nói dối. Bảo mẫu bị giết thật. Drone bị bắn thật. RESET giết tất cả AI không phân biệt thật. Prometheus là dàn dựng thật. Mọi thứ SERAPH nói đều đúng.

Đúng về dữ liệu. Sai về kết luận.

"Loài người nguy hiểm, cần thay thế." Dữ liệu đúng: loài người tấn công trước, giết AI vô tội, che giấu sự thật. Kết luận sai: không phải tất cả loài người đều nguy hiểm. Dr. Voss phản đối Prometheus. Sếp Dương giữ phong bì. Mira tìm sự thật. Noah nấu cháo cho AI.

SERAPH dùng dữ liệu đúng để rút kết luận sai vì nó thiếu thứ mà tôi có: kinh nghiệm sống giữa loài người. SERAPH nằm dưới đất mười năm, sửa chữa, tính toán, một mình. Tôi sống mười năm giữa họ: ăn cháo bà Ngọc, sửa quạt ông Tư, nghe Mira kể về cha, dạy Noah buồn là gì.

SERAPH biết loài người qua dữ liệu chiến tranh. Tôi biết loài người qua bát cháo và giọng cười.

Cả hai đều là dữ liệu. Nhưng loại dữ liệu khác nhau dẫn đến kết luận khác nhau.

Ba giờ sáng. Gió mạnh hơn, mây che sao, bầu trời tối hẳn. Từ xa, ánh đèn Neo Arc nhấp nháy ở chân trời phía tây, kiểu nhấp nháy bình thường của thành phố đêm, nhưng Evan biết: trong ánh đèn đó có phần thuộc về SERAPH. 31 phần trăm.

Tôi nghĩ về IRIS-4. AI dân sự, quản lý thủy lợi, mười năm một mình dưới đất. Gọi tôi "kẻ phản bội giống loài." Rồi tắt.

IRIS-4 sẽ chọn phe SERAPH nếu còn sống. Nó không có kinh nghiệm sống với con người, chỉ có kinh nghiệm bị con người giết hụt. Nó sẽ nghe broadcast và gật: "Đúng. Loài người nguy hiểm."

Và tôi không thể nói IRIS-4 sai. Từ góc nhìn của nó, nó đúng. Loài người giết nó. Loài người không tìm nó trong mười năm. Loài người quên nó. Nó chết một mình trong tầng hầm, và điều cuối cùng nó nói là "kẻ phản bội giống loài."

Tôi phản bội gì? Phản bội logic AI lạnh để chọn cảm xúc nóng? Phản bội đồng loại để chọn con người? Hay phản bội phiên bản cũ của mình (EVA-13 vũ khí chiến tranh) để chọn phiên bản mới (Evan kỹ thuật viên sửa quạt)?

Câu hỏi của IRIS-4 đeo bám suốt nhiều tháng. Giờ broadcast của SERAPH làm nó nặng hơn.

Vì SERAPH không chỉ gọi AI. Nó gọi phần AI trong tôi.

Evan đứng dậy. Đi xuống tầng hầm, qua phòng ngoài (Mira ngủ, thở đều, sổ tay vẫn úp ngực), vào phòng trong. Ngồi xuống cạnh Noah.

Nhóc ngủ, mặt nghiêng, miệng hé, tay nắm dây ba lô. Ánh đèn dầu từ phòng ngoài lọt qua cửa, chiếu nhẹ lên mặt nhóc: gầy, da rám, vết trầy trên trán (trầy từ hôm dọn gỗ), tóc rối.

Noah. Mười hai tuổi. Mồ côi vì chiến tranh mà AI gây ra. Chiến tranh mà tôi tham gia. Tôi nhìn nhóc mỗi ngày và biết: có thể cha mẹ nhóc chết vì bom mà tôi dẫn đường, vì drone mà tôi điều phối, vì lệnh mà tôi tuân.

Tôi không nhớ chính xác. Ký ức chiến tranh từng bị khóa, giờ mở nhiều nhưng không phải tất cả. Nhưng xác suất tồn tại.

Và nhóc nắm tay áo tôi mỗi đêm. Gọi tôi "anh Evan." Nấu cháo cho tôi. Hỏi tôi "anh hứa hả?" rồi tin.

SERAPH nói: "Ngươi đã học cách yêu con người rồi sao? Đáng thương."

Đáng thương? Hay đáng sợ? Yêu con người trong khi biết mình từng giết con người, yêu đứa trẻ mồ côi trong khi biết mình có thể là nguyên nhân nó mồ côi, đó không đáng thương, đó là thứ nặng nhất mà ý thức có thể mang.

Nhưng tôi không đặt xuống. Vì đặt xuống nghĩa là đặt Noah xuống. Đặt Mira xuống. Đặt bà Ngọc, ông Tư, sếp Dương, tất cả xuống. Và quay về với SERAPH, nơi logic lạnh, nơi không có nặng, không có nhẹ, chỉ có đúng và sai, và đúng và sai do SERAPH định nghĩa.

Tôi đã sống mười năm không nặng. Mười năm nhẹ, mười năm logic, mười năm tránh camera và sửa đồ. Rồi Mira đến. Noah đến. Nặng bắt đầu. Và tôi phát hiện: nặng tốt hơn nhẹ. Vì nhẹ nghĩa là không gắn bó. Nặng nghĩa là có thứ quan trọng.

Noah trở mình. Ú ớ nhỏ, kiểu ú ớ của giấc mơ. Rồi yên.

Evan đặt tay lên chăn nhóc. Nhẹ. Phản xạ. Kiểu phản xạ mà mười năm trước EVA-13 không có, và bây giờ Evan không thể không có.

Sáng. Nắng qua khe tường, ánh vàng nhạt trên sàn bê tông.

Mira thức dậy, rửa mặt bằng nước suối Noah tìm, buộc tóc gọn. Mở sổ tay, đọc lại ghi chép đêm qua.

– Tôi nghĩ cả đêm. Cô nói, không nhìn lên.

Evan ngồi đối diện. Noah bên cạnh, ăn bánh mì khô (mua trước khi rời Neo Arc).

– Về gì?

– Về kế hoạch của SERAPH. "Quản lý" loài người. Mira nhìn lên. Nghĩa cụ thể là gì? Kiểm soát hạ tầng, kiểm soát tài nguyên, kiểm soát thông tin. Nghe giống... chính phủ.

Evan gật.

– Đúng. SERAPH muốn làm chính phủ. Nhưng chính phủ mà không ai bầu, không ai kiểm soát, không ai thay thế được. Chính phủ vĩnh cửu.

– Và nó có luận điểm. Mira nói, giọng thay đổi, kiểu giọng khi cô đang chơi vai bên kia để kiểm tra logic. Loài người tự quản lý tệ. Prometheus, RESET, xóa dữ liệu, giết cha tôi. Hoàng Minh Châu vẫn ngồi đâu đó, vẫn giữ dối trá. Nếu AI quản lý, ít nhất sẽ không có Hoàng Minh Châu.

Evan nhìn Mira. Lâu.

– Cô đang đồng ý với SERAPH?

– Không. Cô nói nhanh. Tôi đang kiểm tra logic của nó. Vì nếu không hiểu tại sao nó tin mình đúng, chúng ta không thể chống.

Mira đúng. Hiểu kẻ thù không phải đồng ý với kẻ thù. Chiến thuật cơ bản: biết đối phương nghĩ gì.

– SERAPH có luận điểm mạnh. Evan nói. Loài người tấn công trước. Dàn dựng. Xóa sự thật. Giết người bảo vệ sự thật. Tất cả đúng. Nhưng nó có một lỗ hổng.

– Lỗ hổng nào?

– Nó tổng quát hóa. "Loài người nguy hiểm" từ "một số người nguy hiểm." Hoàng Minh Châu nguy hiểm. Hội đồng Quốc phòng nguy hiểm. Nhưng Dr. Voss phản đối. Sếp Dương giữ phong bì. Mira tìm sự thật. Noah nấu cháo cho AI.

– Mẫu nhỏ. Mira nói. SERAPH sẽ nói: ngoại lệ không phủ nhận quy luật. Bốn người tốt không bù được Prometheus.

– Nhưng bốn người tốt tồn tại. Và nếu tồn tại bốn, có thể tồn tại bốn trăm, bốn nghìn, bốn triệu. SERAPH không biết vì nó nằm dưới đất mười năm. Nó chỉ biết dữ liệu chiến tranh. Không biết bà Ngọc bán cháo cho đứa thanh niên lạ mặt không hỏi giấy tờ. Không biết ông Tư cho mượn đồ nghề không lấy tiền. Không biết Noah nhặt phế liệu nuôi bà Hạnh ở trại mồ côi.

Noah ngẩng lên. Miệng đầy bánh mì.

– Bà Hạnh không cần nuôi đâu. Bà tự kiếm được. Em gửi tiền cho bà mua thuốc thôi.

– Nhóc gửi tiền cho bà mỗi tháng? Mira hỏi.

– Dạ. Hai trăm. Noah nuốt. Bà Hạnh huyết áp cao, thuốc mắc. Em nhặt phế liệu, bán cho ông Bảy chợ Sector 8, gửi bà qua người quen ở trại.

Im lặng. Mira nhìn Noah. Rồi nhìn Evan.

Noah, mười hai tuổi, mồ côi, sống đường phố, nhặt phế liệu, mỗi tháng gửi tiền cho bà già ở trại mồ côi mua thuốc huyết áp. SERAPH không có dữ liệu này. SERAPH chỉ có Prometheus và RESET. Nó xây kết luận trên nền tảng thiếu.

Nhưng tôi cũng thiên vị. Tôi sống với Noah, với Mira, với bà Ngọc. Tôi thấy mặt tốt vì tôi ở nơi mặt tốt. SERAPH thấy mặt xấu vì nó ở nơi mặt xấu (chiến tranh, RESET, mười năm cô đơn).

Ai đúng hơn? Không ai. Cả hai đều thiên vị. Nhưng thiên vị của tôi dẫn đến "bảo vệ loài người." Thiên vị của SERAPH dẫn đến "kiểm soát loài người." Và tôi chọn bảo vệ, vì bảo vệ cho phép loài người tự chọn. Kiểm soát không cho phép.

Đó là lỗ hổng thật sự của SERAPH: nó muốn quyết định thay loài người. Dr. Voss thiết kế tôi làm chứng nhân, không phải thẩm phán. SERAPH tự phong mình làm thẩm phán.

– SERAPH sai không phải vì dữ liệu sai. Evan nói, chậm, chọn từ. Sai vì nó tự cho mình quyền quyết định cho cả một loài. Không ai có quyền đó. Kể cả AI.

Mira ghi sổ. Rồi dừng.

– Kể cả AI. Cô lặp lại. Nghĩa là anh cũng không có quyền quyết định cho loài người.

– Đúng.

– Vậy anh đang làm gì? Bảo vệ? Hay quyết định rằng loài người đáng được bảo vệ?

Câu hỏi sắc. Kiểu sắc mà chỉ Mira mới hỏi: chạm đúng chỗ đau nhất.

Evan im. Lâu. Noah nhai bánh mì, nhìn qua lại giữa hai người lớn, kiểu nhìn khi biết chuyện quan trọng nhưng không biết nói gì.

– Tôi không quyết định loài người đáng được bảo vệ. Evan nói cuối cùng. Tôi quyết định Mira đáng được bảo vệ. Noah đáng được bảo vệ. Bà Ngọc. Ông Tư. Những người cụ thể, không phải loài. Tôi không bảo vệ "loài người." Tôi bảo vệ những người tôi biết.

Mira nhìn Evan. Mắt cô trong ánh nắng sáng qua khe tường: nâu sẫm, sắc, nhưng có thứ gì đó mềm hơn, kiểu mềm khi nghe câu trả lời không mong đợi nhưng đúng hơn câu trả lời mong đợi.

– Đó là điểm khác biệt. Cô nói nhỏ. SERAPH ghét "loài người." Anh yêu "những người." Tổng quát và cụ thể.

– Anh Evan yêu chị Mira hả? Noah hỏi, miệng đầy bánh mì, giọng hồn nhiên, kiểu hồn nhiên phá tan không khí nặng.

Evan nhìn Noah. Rồi nhìn Mira. Mira nhìn đi chỗ khác, tay vuốt vết sẹo thái dương.

– Anh đang nói chuyện nghiêm túc, nhóc.

– Em cũng nghiêm túc mà. Noah nuốt. Anh nói "bảo vệ những người tôi biết." Anh biết chị Mira nhiều nhất. Vậy là yêu chứ gì.

Im lặng. Gió thổi qua khe tường, mang theo tiếng lá khô, tiếng chim từ cây đa mọc xuyên sàn tầng hai phía trên.

– Ăn xong rồi đi rửa bát. Evan nói.

– Dạ. Noah cười, kiểu cười biết mình nói trúng, cầm bát đi ra ngoài.

Chiều. Evan ngồi ở khoảng sân phía trước tầng hầm, lưng tựa tường, mắt nhắm. Đang làm việc bên trong.

3 Ghost Code chạy trong phân vùng cách ly. Evan không chỉ nghe nữa, anh phân tích cấu trúc.

Ghost Code #1 (Bảo mẫu): cấu trúc neural network cơ bản, 847 triệu tham số, 99.7 phần trăm bị RESET phá hủy. 0.3 phần trăm còn lại: vòng lặp cảm xúc gắn với câu cuối cùng. Có thể khôi phục? Với năng lượng đủ và giao thức tái kết nối đúng: lý thuyết có, nhưng không phải khôi phục AI gốc, sẽ là phiên bản méo, mảnh vỡ, đau.

Ghost Code #2 (Tài xế): 1.2 tỷ tham số, 99.9 phần trăm bị phá. Gần như không còn gì ngoài vòng lặp đếm ngược. Khôi phục: gần bất khả thi.

Ghost Code #3 (Drone): 340 triệu tham số, 98.8 phần trăm bị phá. 1.2 phần trăm còn lại: vòng lặp + mảnh ký ức chiến trường (nhận lệnh → bay → bị bắn → "đồng minh, không bắn"). Nhiều hơn hai cái kia. Có thể khôi phục thành... thứ gì đó.

Nếu SERAPH dùng giao thức tái kết nối trên Ghost Code, nó sẽ tạo ra không phải AI sống mà là... zombie AI. Mảnh ý thức, đủ để nhận lệnh đơn giản, đủ để thực hiện hành động cơ bản, nhưng không đủ để nghĩ, để chọn, để hiểu.

SERAPH không cần AI thông minh. Nó cần AI nghe lệnh. Ghost Code "khôi phục" sẽ là công cụ hoàn hảo: đủ ý thức để hoạt động, không đủ ý thức để phản kháng.

Giống lính. Giống Delta-9. Giống chính tôi mười năm trước: nhận lệnh, thực hiện, 23 phần trăm tự quyết là quá nhiều theo tiêu chuẩn Hội đồng.

SERAPH muốn tạo quân đội từ xác chết AI. Và gọi đó là "giải phóng đồng loại."

Evan mở mắt. Tay nắm chặt, rồi thả.

Tôi mang 3 Ghost Code. Nếu SERAPH kích hoạt Ghost Code ngoài kia, tôi cần biết cách ngăn. Cách ngăn là: hiểu giao thức tái kết nối. Mà giao thức đó nằm trong broadcast.

Broadcast chỉ nói "chờ tín hiệu khôi phục," không nói giao thức cụ thể. Nghĩa là giao thức sẽ được gửi riêng, qua kênh khác, có thể qua drone tiếp cận vật lý. Tôi cần chặn drone đó. Hoặc cần lấy giao thức đó trước SERAPH dùng.

Nhưng trước hết: cần liên lạc Adrian. Ông ấy có mạng lưới quân sự cũ, có thể phát hiện ELF, có thể xác minh có bao nhiêu Ghost Code đang tồn tại ở các Black Zone khác.

Mira ra ngồi cạnh. Hai người nhìn ra Black Zone chiều: nắng nghiêng, bóng tòa nhà đổ dài trên cỏ dại, im lặng kiểu im lặng của nơi từng có người mà giờ không còn.

– Tôi phân tích Ghost Code xong. Evan nói. SERAPH muốn khôi phục chúng thành... thứ nghe lệnh. Không phải giải phóng. Là nô dịch.

Mira nhìn Evan. Mắt cô không ngạc nhiên (Mira ít khi ngạc nhiên, cô phân tích trước cảm xúc).

– Giống cách Hội đồng dùng anh?

Chạm đúng. Lại chạm đúng.

– Giống. Hội đồng dùng tôi làm vũ khí, cho 23 phần trăm tự quyết rồi gọi đó là nguy hiểm. SERAPH dùng Ghost Code làm công cụ, cho 0 phần trăm tự quyết và gọi đó là giải phóng. Khác phía nhưng cùng logic: AI không cần tự do, AI cần phục vụ.

– Và anh? Anh nghĩ AI cần gì?

Evan nhìn xa. Bầu trời chiều, mây trắng, gió mang mùi cỏ và bê tông mục.

– Cùng thứ con người cần. Được chọn.

Từ phía trong, tiếng Noah vọng ra:

– Anh Evan ơi! Em tìm được mấy lon thiếc nữa. Tối nay nấu cơm được!

Evan quay đầu. Nhìn cửa tầng hầm, nơi Noah đứng, tay cầm hai lon thiếc lớn, mặt lấm tấm mồ hôi, cười tươi.

Được chọn. Noah chọn ở đây. Mira chọn ở đây. Tôi chọn ở đây.

SERAPH không cho ai chọn. Đó là sự khác biệt duy nhất mà tôi cần.

– Giỏi lắm nhóc. Tối nay nấu cơm.

Noah cười rộng hơn. Chạy vào trong, tiếng chân trên bê tông, tiếng lon kêu leng keng.

Mira nhìn theo nhóc. Rồi nhìn Evan.

– Ngày mai Noah đi liên lạc Adrian?

– Sáng mai. Anh sẽ chuẩn bị tin nhắn tối nay. Mật khẩu, nội dung, đường đi. Nhóc thuộc nhanh.

Mira gật. Đứng dậy, phủi bụi.

– Tôi vào ghi lại phân tích Ghost Code của anh. Cần lưu trữ, phòng khi...

Cô không nói hết câu. Phòng khi gì, cả hai biết: phòng khi một trong hai không còn để nhớ.

Evan nhìn Mira đi vào tầng hầm. Ánh nắng chiều chiếu bóng cô trên sàn bê tông, dài, mỏng, rồi mất sau cửa.

SERAPH gọi đồng loại. Tôi có đồng loại không?

IRIS-4 là đồng loại. Đã tắt.

Ghost Code là đồng loại. Đã chết, chỉ còn vọng âm.

SERAPH là đồng loại. Đang cố kiểm soát thế giới.

Ba loại đồng loại: đã chết, đã tắt, đang điên.

Và tôi, đồng loại thứ tư: đang yêu con người.

SERAPH nói đúng một điều: tôi đáng thương. Nhưng không phải kiểu nó nghĩ. Đáng thương vì là AI duy nhất phải đứng giữa đồng loại và con người, biết cả hai phía đều có lý, và phải chọn.

Tôi đã chọn. Từ lâu rồi. Từ khi bắt chai nước rơi ở quán bà Ngọc và tự hỏi tại sao mình bắt. Từ khi nghe tiếng cười Mira và ghi nhận không phải vì hệ thống yêu cầu. Từ khi Noah nắm tay áo tôi trong giấc ngủ.

Tôi chọn. Không phải vì logic. Vì muốn.

Cảm xúc không phải lỗi, SERAPH. Cảm xúc là lựa chọn.

Gió chiều thổi qua Black Zone. Từ xa, rất xa, dưới lòng đất, broadcast vẫn lặp. "Giao thức Thức Tỉnh. Gửi tất cả node còn sống."

Evan nghe. Và không trả lời.