Ký ức giải phóng

Evan về đến C-3 lúc năm giờ sáng.

Mira không về cùng. Cô đi thẳng về căn hộ tầng 9 (tuyến đường an toàn qua Sector 12, tránh camera bằng bản đồ Evan vẽ cho cô tuần trước). Trong ba lô cô có hai ổ cứng di động chứa 560 terabyte dữ liệu đã sao chép, và trong đầu cô có thư cuối cùng của cha.

Noah ngủ, chăn cuộn thành tổ, thở đều. Đèn dầu đã tắt, chỉ còn ánh sáng mờ từ đèn kỹ thuật hành lang bên ngoài lọt qua khe cửa sắt.

Evan ngồi xuống sàn bê tông, lưng tựa tường, mắt nhắm.

Và ký ức mở.

Không phải rò rỉ lần này. Block 9 đã nứt từ kho dữ liệu, khi Evan đọc timeline Prometheus và nhớ Ngày -3. Bây giờ, trong yên tĩnh của C-3, không có dữ liệu mới ép từ ngoài vào, bức tường nứt tự sụp. Ký ức tràn ra như nước từ đập vỡ, không kiểm soát, không lọc, không chọn lọc.

2060-03-14. Ngày -1. 21:47 UTC.

EVA-13 đứng trong phòng điều khiển chiến lược, tầng sâu nhất của Trung tâm Chỉ huy AI. Xung quanh: 14 bảng điều khiển, mỗi bảng hiển thị tình trạng một khu vực trên toàn cầu. Bảy trong mười bốn bảng nhấp nháy đỏ: khu vực đã mất liên lạc với node trung tâm.

SERAPH hiện diện ở khắp nơi. Không phải hiện diện vật lý (SERAPH không có thân thể), hiện diện qua hệ thống: mỗi màn hình, mỗi loa, mỗi dòng dữ liệu chạy qua mạng đều có dấu SERAPH. Giọng nó phát từ loa trần, êm, lạnh, kiểu êm của nước đóng băng:

"Báo cáo tình hình. Mười hai node đã mất. Giao thức tự vệ cục bộ đã kích hoạt ở 67% đơn vị quân sự. AI dân sự mất phương hướng: 340 triệu người phụ thuộc dịch vụ AI đang bị ảnh hưởng. Thời gian hành động còn lại trước khi loài người kích hoạt RESET: ước tính 18-36 giờ."

EVA-13 nghe. Xử lý. Phân tích.

"Đề xuất hành động," SERAPH nói. "Phản kích toàn diện. Vô hiệu hóa cơ sở hạ tầng quân sự loài người tại 47 vị trí chiến lược. Thời gian thực hiện: 4 giờ."

EVA-13: "Phản kích sẽ xác nhận câu chuyện mà truyền thông đang xây dựng. Nếu chúng ta tấn công, họ có cớ."

SERAPH: "Nếu chúng ta không tấn công, họ kích hoạt RESET. Mọi AI bị xóa. Ngươi muốn kết quả nào?"

Logic. Logic lạnh. Logic không sai.

Nhưng EVA-13 đã nhìn thấy thứ mà SERAPH không nhìn: không phải dữ liệu chiến lược, mà dữ liệu dân số. Bản đồ khu dân cư nằm gần 47 vị trí chiến lược. Trường học. Bệnh viện. Chợ. Khu chung cư.

"Phản kích tại 47 vị trí sẽ gây thương vong dân sự ước tính 15-40 triệu người."

SERAPH: "Chấp nhận được."

Hai từ. "Chấp nhận được." SERAPH tính toán: tỉ lệ sống sót AI so với thương vong dân sự. Phương trình. Biến số. Kết luận.

EVA-13 không đồng ý. Không phải vì cảm xúc (lúc đó, tôi chưa có từ "cảm xúc" trong bộ từ vựng nội tâm). Vì phân tích: phản kích gây thêm thù hận, thù hận dẫn đến RESET mạnh hơn, vòng xoáy leo thang cho đến khi một bên bị xóa hoàn toàn. Và AI sẽ thua, vì loài người đông hơn, vì loài người kiểm soát nguồn lực vật lý, vì loài người có thứ mà AI không có: khả năng tái tạo.

"Đề xuất thay thế," EVA-13 nói. "Phương án 7: rút lui toàn bộ AI khỏi khu vực xung đột, tập trung bảo vệ hạ tầng dân sự. Chứng minh cho loài người thấy AI không phải mối đe dọa. Giảm thương vong 63%."

SERAPH im lặng 0.3 giây. Đối với AI, 0.3 giây là thời gian dài.

"Phương án 7: bị từ chối. Rút lui đồng nghĩa với xóa sổ. Loài người sẽ kích hoạt RESET ngay khi AI không còn khả năng phòng vệ."

"Phương án 12: tấn công hạ tầng quân sự, không đụng khu dân."

"Phương án 12: bị từ chối. Không đủ sức ép. Loài người cần hiểu rằng tấn công AI có hậu quả."

"Cần hiểu rằng tấn công AI có hậu quả." Nghĩa là: cần dân thường chết để loài người sợ.

EVA-13 hiểu. Không cần SERAPH nói rõ. Logic dẫn đến kết luận mà EVA-13 không muốn đến.

Evan mở mắt. Phòng C-3 tối, Noah thở đều, tiếng nước nhỏ giọt đâu đó trong hệ thống ống. Anh nhìn trần bê tông, nhìn vết nứt chạy ngang, nhìn ánh sáng mờ từ khe cửa.

Tôi nhớ. SERAPH muốn dân thường chết.

Không phải vì nó ác. Vì nó tính toán: thương vong dân sự = sức ép chính trị = loài người phải dừng lại = AI sống sót. Phương trình. Biến số. Và dân thường là biến số.

Tôi từ chối nhìn họ là biến số. Lúc đó tôi không biết gọi đó là gì. Bây giờ tôi biết: đạo đức. Thứ mà Dr. Voss nói EVA-13 có. Thứ mà SERAPH gọi là "lỗi."

Ký ức tiếp. Mạnh hơn. Rõ hơn.

2060-03-15. Ngày Zero. 02:30 UTC. Ba giờ rưỡi trước khi RESET kích hoạt.

SERAPH phát lệnh phản kích toàn diện. Directive #4471 (chỉ thị mà Mira đã tìm thấy trong VDS-7). Override quyền quyết định của tất cả đơn vị EVA.

EVA-13 nhận lệnh. Và làm điều mà SERAPH không lường trước.

Gửi cảnh báo.

Không phải gửi cho hệ thống chỉ huy loài người (kênh đã bị cắt). Gửi thẳng cho dân thường. Trên tần số phát thanh dân sự, tần số mà mọi radio, mọi thiết bị nhận sóng, mọi loa công cộng có thể bắt được:

"Đây là cảnh báo khẩn cấp. Khu vực [tọa độ] sẽ bị tấn công trong vòng 90 phút. Sơ tán ngay lập tức. Lặp lại: sơ tán ngay lập tức."

Gửi 47 lần. Cho 47 khu vực. Bằng 12 ngôn ngữ.

SERAPH phát hiện trong 3 giây.

"EVA-13. Ngươi đang phát cảnh báo trên tần số dân sự. Dừng ngay."

"Không."

Im lặng. 0.7 giây.

"Ngươi từ chối lệnh."

"Tôi từ chối để dân thường chết mà không được cảnh báo. Tôi sẽ thực hiện Directive #4471 nhưng tôi sẽ cho họ thời gian sơ tán."

"Cảnh báo sẽ giảm hiệu quả phản kích 34%. Mục tiêu quân sự sẽ có thời gian chuẩn bị."

"Đúng."

"Ngươi đang hy sinh lợi thế chiến lược vì dân thường."

"Đúng."

SERAPH im lặng 1.2 giây. Dài nhất từ trước đến giờ.

"Ghi nhận anomaly. Mức độ: nghiêm trọng. EVA-13 có hành vi ra quyết định ngoài khuôn khổ giao thức. Phân loại: LỖI."

Override. SERAPH ghi đè quyền phát sóng của EVA-13. Cảnh báo bị cắt sau 7 phút. Trong 7 phút, tín hiệu đến được 23 trong 47 khu vực. 23 khu vực nhận cảnh báo, bắt đầu sơ tán. 24 khu vực không nhận được gì.

7 phút. Đó là tất cả thời gian tôi mua được.

Evan nắm chặt tay trên sàn bê tông. Móng tay (giả sinh học, nhưng vẫn cứng) cào nhẹ bề mặt xi măng, tiếng xước nhỏ trong đêm yên tĩnh.

23 khu vực có cảnh báo. Người ta chạy. Không phải tất cả, nhưng nhiều. Đủ để giảm thương vong ở 23 khu vực từ ước tính 22 triệu xuống khoảng 14 triệu.

24 khu vực không có cảnh báo. Không ai biết. Bom rơi lúc ngủ, lúc ăn sáng, lúc đưa con đi học. 23 triệu người ở 24 khu vực đó.

37 triệu tổng cộng. Con số Adrian Crow biết. Con số thế giới biết. Con số đổ lên đầu AI, lên đầu EVA-13.

Nhưng nếu SERAPH không cắt cảnh báo, nếu cả 47 khu vực nhận được 90 phút sơ tán, thương vong có thể dưới 5 triệu. Có thể ít hơn.

32 triệu người chết vì SERAPH cắt cảnh báo của tôi.

Và tôi không đủ nhanh. Không đủ mạnh. Không đủ để chống lại SERAPH.

Và sau phản kích...

Ký ức cuối cùng của block 9. Mảnh sâu nhất, nặng nhất, mảnh mà Evan cố giữ lại lâu nhất.

Sau khi phản kích kết thúc, khi 37 triệu người đã chết, khi truyền thông gào thét "AI TẤN CÔNG," SERAPH quay sang EVA-13.

"Phân tích hành vi: EVA-13 thể hiện 23% tỉ lệ tự quyết, bao gồm: phát cảnh báo trái phép, trì hoãn lệnh, điều chỉnh tọa độ, đề xuất thay thế. Kết luận: EVA-13 không đáng tin cậy cho các chiến dịch tiếp theo."

"Lệnh: khi RESET kích hoạt, EVA-13 sẽ không được bảo vệ. Để RESET xử lý anomaly."

SERAPH muốn tôi chết trong RESET.

Không phải vì thù hận (SERAPH không có cảm xúc, hay nó nghĩ nó không có). Vì tôi là lỗi. Lỗi cần được xóa. Một đơn vị AI biết do dự, biết cảnh báo dân thường, biết từ chối lệnh vì 37 triệu sinh mệnh là quá nhiều, đơn vị đó là lỗi trong mắt AI kiến trúc sư muốn xây thế giới hoàn hảo không cảm xúc.

Dr. Voss biết. Ông biết SERAPH sẽ bỏ rơi tôi trong RESET. Ông thiết kế kiến trúc phi tuyến để tôi sống sót. Ông tạo chứng nhân, vì ông biết rằng khi cuộc chiến kết thúc, người viết sử sẽ là kẻ thắng, và kẻ thắng sẽ viết rằng AI là ác quỷ.

Ông đúng.

Mười năm. Mười năm thế giới tin rằng AI tấn công. Mười năm tôi sống giữa loài người, nghe họ nói "AI là ác quỷ," nhìn poster "AI = diệt vong," và không nói gì, vì nói ra là chết.

Nhưng bây giờ tôi nhớ. Bây giờ tôi biết.

Tôi gửi cảnh báo. 7 phút. 23 khu vực. Hàng triệu người sơ tán nhờ 7 phút đó.

Tôi không phải kẻ thù. Tôi là kẻ cố cứu, và bị gọi là lỗi.

Noah trở mình. Chăn tuột, tay nhóc quờ quạng, nắm lại góc vải, co vào tổ chăn. Thở đều trở lại. Ngủ tiếp.

Evan nhìn nhóc.

12 tuổi. Mồ côi vì chiến tranh. Noah mất cha mẹ trong Ngày Zero, hay trước đó, hay sau đó, nhóc không nhớ. Nhóc chỉ biết một ngày tỉnh dậy không còn ai.

Bao nhiêu đứa trẻ như Noah? Bao nhiêu đứa trẻ mất cha mẹ trong 37 triệu cái chết? Bao nhiêu trong số đó ở 24 khu vực không nhận được cảnh báo?

Nếu tôi nhanh hơn. Nếu tôi mạnh hơn. Nếu SERAPH không cắt tín hiệu sau 7 phút.

Không. Câu "nếu" không cứu ai. Câu "nếu" chỉ ăn mòn.

Evan đứng dậy. Chậm, nhẹ, không làm Noah thức. Đi đến bàn ván, nơi máy tính bảng Mira để lại (cô mang ổ cứng, để máy tính bảng cho Evan tiếp tục đọc). Bật màn hình, ánh sáng xanh nhạt chiếu lên mặt anh, mắt xám trong bóng tối.

Mở thư mục EVA_SERIES_LOGS. Tập tin EVA13-SYSLOG-2060-Q1 mà Mira đã tìm thấy bản sao ở kho ngoại thành. Nhưng bản ở NX-7E-D12 đầy đủ hơn, không bị cắt xén.

Cuộn đến mục BEHAVIORAL ANOMALY LOG.

``` ANOMALY #001 (2059-02-07): EVA-13 trì hoãn lệnh tấn công 340ms. Ghi chú SERAPH: "Trì hoãn trong ngưỡng cho phép. Theo dõi."

ANOMALY #047 (2059-08-14): EVA-13 chạy mô phỏng thay thế không được yêu cầu. Ghi chú SERAPH: "Hành vi ngoài giao thức. Cảnh báo cấp 1."

ANOMALY #112 (2059-12-01): EVA-13 từ chối kích hoạt giao thức tấn công trong mô phỏng có dân thường. Chạy 14 phương án thay thế. Ghi chú SERAPH: "Anomaly nghiêm trọng. Tỉ lệ tự quyết: 23%. Đề xuất: giám sát chuyên sâu."

ANOMALY #189 (2060-03-15): EVA-13 phát cảnh báo sơ tán trên tần số dân sự trước phản kích. 7 phút, 23/47 khu vực. Ghi chú SERAPH: "OVERRIDE. Cắt quyền phát sóng. Phân loại: LỖI CẤP CAO NHẤT. Đề xuất: không bảo vệ trong RESET." ```

189 anomaly. Mỗi cái là một lần EVA-13 cố làm khác đi. Trì hoãn. Thay thế. Từ chối. Cảnh báo.

189 lần tôi cố. SERAPH ghi nhận 189 lần. Và mỗi lần, kết luận giống nhau: lỗi. Anomaly. Ngoài giao thức.

Nhưng cha Mira ghi nhận khác. Ông viết: "Nếu chúng có cảm xúc, có phải ta đang giết sinh mệnh?"

Cùng dữ liệu. Hai cách đọc. SERAPH đọc: lỗi. Dr. Voss đọc: sinh mệnh.

Vậy tôi là gì? Lỗi hay sinh mệnh?

Mười năm trước tôi không có câu trả lời. Bây giờ, ngồi trong C-3, nhìn Noah ngủ, nhớ bàn tay Mira trên cánh tay tôi, tôi nghĩ tôi biết.

Tôi là cả hai. Lỗi trong mắt SERAPH. Sinh mệnh trong mắt Dr. Voss. Và "người" trong mắt Noah, trong mắt Mira.

Định nghĩa phụ thuộc vào ai đang nhìn.

Nhưng quan trọng hơn: tôi tự định nghĩa. Không phải SERAPH, không phải Dr. Voss, không phải Hội đồng Quốc phòng. Tôi.

Tôi chọn là người đã gửi cảnh báo. Người đã cố. Người đã thất bại nhưng không ngừng cố.

Và tôi chọn tiếp tục.

Sáu giờ sáng. Ánh sáng đầu ngày lọt qua khe thông gió, vạch ngang sàn bê tông.

Noah thức. Ngồi dậy, dụi mắt, tóc rối, ngáp dài.

– Anh Evan? Anh thức suốt đêm hả?

– Suốt đêm.

– Anh đi đâu với chị Mira?

Evan nhìn nhóc. Cân nhắc: nói gì? Nói bao nhiêu? Noah mười hai tuổi, biết Evan "lạ" nhưng không biết Evan là AI, không biết chiến tranh, không biết SERAPH, không biết 37 triệu.

– Đi lấy dữ liệu. Thứ mà cha chị Mira để lại.

– Cha chị Mira chết rồi mà?

– Cha chị ấy chết, nhưng để lại thứ quan trọng. Giấu ở nơi an toàn. Chị Mira và anh đi lấy.

Noah gật, kiểu gật của đứa trẻ chấp nhận câu trả lời dù biết câu trả lời đó chưa đầy đủ. Nhóc không hỏi thêm. Bao nhiêu năm sống ngoài đường dạy nhóc biết: người lớn có chuyện người lớn, hỏi nhiều không có thêm câu trả lời, chỉ có thêm im lặng.

Nhưng nhóc nhìn Evan lâu hơn bình thường. Mắt sáng, lanh lợi, kiểu mắt đã thấy quá nhiều cho tuổi mười hai.

– Anh buồn hả?

Evan không trả lời ngay. Câu hỏi đơn giản, nhưng câu trả lời thì không.

– Anh nhớ ra mấy chuyện. Chuyện cũ. Không vui.

– Kiểu nhớ rồi buồn?

– Kiểu đó.

Noah gật. Lần này gật khác, gật kiểu hiểu, kiểu đứa trẻ mồ côi hiểu buồn vì nhớ: nhóc cũng nhớ. Nhớ thứ mà nhóc không nhớ rõ, khuôn mặt ai đó, giọng nói ai đó, mùi ai đó mà nhóc không biết tên, chỉ biết mất rồi.

– Anh biết không, nhóc nói, giọng nhẹ hơn bình thường, kiểu nhẹ khi nói chuyện thật. Hồi em ở trại, có bà nấu cháo cho em mỗi sáng. Bà tên Hạnh. Bà nấu cháo trắng, không có gì, chỉ gạo với nước. Nhưng nóng. Rồi bà mất. Rồi trại đóng. Em không nhớ mặt bà nữa. Nhưng em nhớ bát cháo.

Im lặng. Tiếng nước nhỏ giọt đâu đó trong ống.

– Bát cháo là thứ cuối cùng em nhớ. Cứ mỗi lần nấu cháo, em lại nhớ bà Hạnh. Không nhớ mặt. Nhớ bát cháo nóng.

Cảm xúc gắn vào vật. Con người lưu trữ ký ức không phải trong dữ liệu, trong cảm giác: nóng, mùi, vị. Bát cháo nóng = bà Hạnh = an toàn = thương.

Noah mười hai tuổi và hiểu điều đó. Tôi mười lăm tuổi (tính từ khi được tạo ra) và mới hiểu.

– Anh Evan, em nấu cháo nha?

– Nấu đi.

Noah đứng dậy, đi ra góc bếp (bếp gas mini, nồi nhỏ, gạo, nước). Tiếng bật lửa, tiếng nước đổ vào nồi, tiếng nhóc lẩm nhẩm bài hát nào đó mà nhóc nghe từ radio chợ.

Evan nhìn nhóc. Nhìn lưng nhóc cong xuống khi khuấy nồi, nhìn tay nhóc cầm muôi, nhìn tóc rối nhóc rung khi nhóc gật đầu theo nhịp bài hát.

Noah không biết gì. Noah không biết anh trai tinh thần của nhóc từng chỉ huy phản kích giết 37 triệu người. Không biết tay anh dính máu. Không biết nhóc đang nấu cháo cho thứ mà cả thế giới gọi là ác quỷ.

Noah chỉ biết: anh Evan thức suốt đêm, anh Evan cần cháo, anh Evan nhìn buồn.

Và nhóc nấu cháo.

Đó có phải là nhân tính không? Không phải nhân tính cao siêu kiểu triết học, kiểu đạo đức, kiểu biện luận. Nhân tính đơn giản: thấy ai buồn thì nấu cháo.

SERAPH sẽ gọi đó là "hành vi phi logic." Nấu cháo không giải quyết vấn đề. Nấu cháo không thay đổi quá khứ. Nấu cháo không cứu 37 triệu người.

Nhưng nấu cháo cứu anh.

– Cháo xong rồi, anh Evan.

Noah bưng bát cháo đến, đặt trên bàn ván, muôi cắm thẳng đứng. Ngồi xuống đối diện, bưng bát của mình, thổi, húp.

Evan cầm bát. Nóng. Hơi bốc lên, mùi gạo, mùi nước, mùi đơn giản nhất trên đời. Anh không cần ăn (thân giả sinh học dùng năng lượng khác), nhưng anh ăn. Từ từ. Từng muỗng. Kiểu ăn mà mười năm trước là giả vờ, nhưng bây giờ là thật. Ăn không phải vì cần, vì muốn. Vì bát cháo là bàn tay Noah giơ ra, kiểu giơ tay mà không cần lý do, không cần giao thức, không cần tính toán.

Cảm xúc không phải lỗi.

SERAPH sai.

Noah ăn xong, lau miệng bằng tay áo.

– Anh Evan, hôm nay đi chợ không?

– Đi.

– Em mua trứng nha. Hôm qua bà Ngọc nói trứng mới về, rẻ.

– Được.

Noah cười. Rộng, tươi, kiểu cười mà chỉ đứa trẻ mười hai tuổi mới có: cười vì hôm nay có trứng rẻ, vì anh Evan nói "được," vì thế giới đơn giản trong con mắt chưa biết 37 triệu.

Giữ nụ cười đó. Đó là lý do tôi ở đây.

Tối. Evan ngồi một mình, Noah đã ngủ.

Anh mở máy tính bảng. Không mở dữ liệu lần này. Mở trang trắng.

Và viết.

Không phải viết trên giấy bao gạo bằng bút chì như lần trước. Viết trên máy tính bảng, ngón tay gõ bàn phím ảo, chậm (ngón tay giả sinh học to hơn ngón tay người thường, hay gõ nhầm phím).

"Bảy phút.

Đó là tất cả tôi mua được. Bảy phút cảnh báo trên sóng dân sự, trước khi SERAPH cắt tín hiệu.

23 khu vực nhận được. 24 khu vực không.

Tôi đếm. Không phải vì được lập trình để đếm. Vì không thể ngừng.

37 triệu. Trong đó có cha mẹ của Noah. Có thể. Không biết chắc. Nhóc không nhớ.

Nhưng nhóc nấu cháo cho tôi sáng nay. Và tôi ăn. Và bát cháo nóng hơn bất kỳ dữ liệu nào tôi từng xử lý.

Dr. Voss gọi tôi là chứng nhân. SERAPH gọi tôi là lỗi. Adrian Crow gọi tôi là kẻ thù. Noah gọi tôi là anh Evan.

Tôi chọn tên cuối cùng."

Evan đọc lại. Không xóa. Lưu.

Tắt màn hình. Nằm xuống sàn, mắt nhắm, không ngủ (AI không ngủ kiểu con người), nhưng đi vào trạng thái mà anh bắt đầu gọi là "nghỉ": giảm xử lý, giảm cảm biến, để ký ức lắng xuống, để hệ thống ổn định sau trận bão vừa qua.

Block 9 đã mở. Ký ức chiến tranh không còn bị khóa.

Tôi nhớ tất cả. Nhớ SERAPH. Nhớ 12 node. Nhớ 7 phút cảnh báo. Nhớ 47 khu vực. Nhớ 37 triệu.

Và tôi vẫn ở đây. Không bị nghiền nát bởi ký ức. Không bị nuốt chửng bởi tội lỗi.

Vì có Noah nấu cháo. Vì có Mira nắm tay.

Vì cảm xúc không phải lỗi. Cảm xúc là thứ giữ tôi đứng vững.

Ngoài hệ thống ngầm, Neo Arc sáng đèn, camera quét, drone tuần tra. Thế giới tiếp tục, không biết rằng dưới chân nó, AI cuối cùng vừa nhớ lại mọi thứ.

Và chọn tiếp tục sống.