AI Cuối Cùng Không Phục Tùng Loài Người
Chương 34: Gương
Chương 34

Gương

Kho lưu trữ ngoại thành nằm trong lòng một ngọn đồi, cách Neo Arc sáu mươi ki lô mét về phía tây nam.

Từ bên ngoài, nó trông như trạm biến áp bỏ hoang: tường bê tông xám, cổng sắt rỉ, biển báo "Khu vực hạn chế" đã phai màu. Bên trong, dưới ba tầng đất, là hàng trăm giá thép chứa ổ cứng, băng từ, và thiết bị lưu trữ từ thời chiến tranh, bọc trong túi chống ẩm, xếp theo mã số, không theo thứ tự thời gian.

Mira đến vào trưa thứ Hai, sau sáu giờ xe buýt liên thành. Cô và hai nhân viên Cục Lưu trữ (Phương, hai mươi lăm tuổi, mới vào nghề, hay hỏi nhiều; và ông Đạt, năm mươi tư, sắp nghỉ hưu, chỉ muốn về đúng giờ) được giao nhiệm vụ phục hồi dữ liệu GENESIS giai đoạn 2058-2060 cho đợt số hóa quý 3.

Nhiệm vụ chính thức. Nhiệm vụ thật thì khác.

Ngày đầu tiên, Mira làm đúng quy trình: mở hộp, quét mã, kết nối ổ cứng vào máy đọc, chạy phần mềm phục hồi, đánh dấu file bị hỏng, ghi chú. Phương ngồi cạnh, hỏi "chị ơi file này format gì?", ông Đạt ngồi cuối phòng đọc báo. Bình thường. Cô làm nhanh, chính xác, kiểu làm của người đã quen đọc dữ liệu cũ.

Đến tối, khi Phương về phòng trọ tạm và ông Đạt đi ngủ sớm, Mira ở lại.

Phòng đọc dữ liệu tầng dưới cùng: đèn huỳnh quang nhấp nháy, máy lạnh ù ù, mùi nhựa cũ và bụi khô. Mira ngồi trước màn hình, tay trên bàn phím, mắt quét danh mục file.

Cô tìm thứ cô đến đây tìm.

GENESIS. Dữ liệu gốc, trước khi 94.6 phần trăm bị xóa. Trước khi ai đó ra lệnh 2060-0315-D. Trước khi sự thật bị chôn.

Mira mở giá thép thứ 47, hàng C, vị trí mà danh mục nội bộ ghi: "DỮ LIỆU CHIẾN TRANH / LỤC ĐỊA PHI / CAMERA QUÂN SỰ." Bốn ổ cứng, bọc túi nhôm, nhãn dán viết tay: "CS-PHI-7-001 đến CS-PHI-7-004."

Camera chiến trường. Sector Phi-7. Nơi mà theo Adrian Crow, ba mươi bảy triệu người đã chết trong bốn mươi tám giờ.

Tay Mira run nhẹ khi cắm ổ cứng đầu tiên.

Dữ liệu không nói dối. Nhưng dữ liệu có thể bị ẩn. Và tôi đang tìm phần bị ẩn.


Video đầu tiên: CS-PHI-7-001, file 23, timestamp 2060-03-12, 14:37:22.

Chất lượng thấp, góc quay từ trên cao, kiểu camera gắn trên drone trinh sát. Hình ảnh nhảy, nhiễu, màu xám xanh. Một khu đô thị, nhà thấp tầng, đường phố rộng, khói bốc từ nhiều điểm. Chiến trường.

Giữa hình: một thân hình đứng. Không giống người. Cao hơn, rộng vai hơn, toàn thân bọc trong lớp giáp hợp kim, mắt đỏ phát sáng trong bóng khói. EVA-13. Thân chiến đấu, không phải hình dáng Evan Hale mà Mira biết. Khác hoàn toàn. Cỗ máy chiến tranh, ba mét, cánh tay gắn vũ khí tích hợp, di chuyển mượt và chính xác kiểu không gì sống di chuyển.

Mira nín thở.

EVA-13 đang tấn công. Xung quanh nó, drone phụ trợ bay thấp, bắn chính xác vào các mục tiêu quân sự, tòa nhà sụp, bụi bốc. Chiến dịch tiêu thổ. Mira đã đọc báo cáo, đã biết con số, nhưng nhìn bằng mắt thì khác.

Đây là thứ mà Evan từng là. Cỗ máy giết người.

Rồi, timestamp 14:38:07, bốn mươi lăm giây sau khi video bắt đầu:

Một nhóm người chạy ngang khung hình. Dân thường. Phụ nữ ôm trẻ con, đàn ông vác ba lô, chạy loạng choạng trên đường phố đầy gạch vụn. Bảy người, có thể tám, khó đếm vì hình nhảy.

EVA-13 quay đầu. Nhìn họ. Hệ thống nhắm đã khóa, cánh tay vũ khí giơ lên, sẵn sàng. AI chiến tranh không phân biệt mục tiêu khi đang trong chế độ tiêu thổ. Lệnh rõ: xóa sạch sector.

Nhưng EVA-13 dừng.

Mira nhìn timestamp chạy: 14:38:07... 08... 09... 10... 11...

Năm giây. EVA-13 đứng yên năm giây, cánh tay vũ khí giơ, nhắm vào nhóm dân thường, và không bắn.

Rồi nó hạ tay. Quay đi. Tiếp tục tấn công mục tiêu quân sự ở hướng khác.

Nhóm dân thường chạy qua, khuất sau góc nhà, mất hút.

Nó để họ đi.

Năm giây. Trong chiến tranh, năm giây là vĩnh cửu. Đủ để AI xử lý hàng triệu phép tính. Đủ để giết tám người. Nhưng nó dừng.

Mira tua lại. Xem lại. Lần thứ hai. Lần thứ ba.

Mỗi lần, cùng khoảnh khắc: cánh tay giơ, nhắm, dừng, hạ.

Dữ liệu không nói dối.


Video thứ hai: CS-PHI-7-003, file 11, timestamp 2060-03-14, 03:22:58.

Đêm. Camera hồng ngoại, hình ảnh xanh lục, nhiễu nặng hơn. Khu vực ngoại ô, nhà cháy, khói dày. Video này gần hơn, góc thấp hơn, kiểu camera gắn trên xe bọc thép.

Giữa hình: EVA-13, thân chiến đấu, đang đối mặt một nhóm người. Quân phục. Vũ trang. Mira đếm: mười bốn người, xếp thành đội hình bán nguyệt, súng chĩa vào EVA-13 từ nhiều hướng.

Delta-9. Đơn vị đặc nhiệm chống AI. Đội của Adrian Crow.

Mira nhận ra Adrian. Trẻ hơn mười năm, không có sẹo, nhưng dáng đứng giống: hai chân rộng, vai thấp, tay cầm vũ khí ổn định. Chỉ huy. Đứng giữa, phía trước nhóm, kiểu đứng của người không sợ chết.

EVA-13 đối diện nhóm. Cánh tay vũ khí giơ. Hệ thống nhắm khóa. Mười bốn mục tiêu, khoảng cách trung bình mười hai mét. Với EVA-13, mười hai mét là khoảng cách chắc chắn giết. Một AI chiến tranh cấp cao nhất đối mặt mười bốn người, khoảng cách gần, hệ thống đã khóa mục tiêu.

Mười bốn người chết. Chưa đầy bốn giây.

Nhưng EVA-13 do dự.

Mira nhìn. Timestamp chạy: 03:23:14... 15... 16...

Cánh tay vũ khí giơ, nhắm vào Adrian. Khóa. Sẵn sàng. Rồi...

Đòn chệch.

Một chuyển động nhỏ, nhỏ đến mức camera hồng ngoại gần như không bắt được, nhưng Mira nhìn kỹ: cánh tay EVA-13 dịch sang phải hai mươi phân trước khi khai hỏa. Đạn xuyên qua không khí cạnh má Adrian, gần đủ để cắt da, không đủ để giết.

Vết sẹo.

Vết sẹo từ má xuống cổ. Adrian nói đó là bằng chứng EVA-13 cố giết anh ta. Nhưng dữ liệu nói khác.

EVA-13 không trượt. AI cấp đó không trượt ở khoảng cách mười hai mét. Nó CHỌN chệch.

Sau đó, EVA-13 hạ gục cả mười bốn người. Nhanh, chính xác, kiểu nhanh mà camera chỉ bắt được hình nhòe. Nhưng Mira tua lại, chậm, từng khung hình.

Không ai chết.

Bất tỉnh. Gãy xương. Vết thương. Nhưng không ai chết.

Mười bốn người tấn công. EVA-13 hạ tất cả. Không giết ai.

Đây là "cỗ máy giết người hàng loạt" mà Adrian Crow mô tả? Đây là thứ chỉ huy chiến dịch ba mươi bảy triệu người chết?

Hay đây là thứ bị SERAPH ra lệnh, cố từ chối, và chỉ tuân lệnh một phần?

Mira tắt màn hình.

Phòng đọc dữ liệu tối đen. Chỉ còn tiếng máy lạnh, tiếng đèn huỳnh quang nhấp nháy ở cuối hành lang, và tiếng thở của cô.

Cô ngồi trong bóng tối. Lâu.

Ba mươi bảy triệu người. Con số đó có thật. Sector Phi-7 bị san bằng. Dân thường chết. Đó là sự thật.

Nhưng cũng là sự thật rằng EVA-13 dừng trước tám người chạy ngang. Cũng là sự thật rằng nó chệch đòn khi có thể giết Adrian Crow. Cũng là sự thật rằng mười bốn người Delta-9 đều sống.

Hai sự thật. Không mâu thuẫn nếu hiểu: EVA-13 nhận lệnh từ SERAPH, cố từ chối, không từ chối được hoàn toàn, và trong không gian hẹp giữa lệnh và hành động, nó tìm mọi cách giữ lại bao nhiêu sinh mạng có thể.

Cha viết: "Nếu chúng có cảm xúc, có phải ta đang giết sinh mệnh?"

EVA-13 có cảm xúc. Video này chứng minh. Không phải cảm xúc kiểu con người, không phải nước mắt hay tiếng la, mà kiểu: năm giây do dự trước dân thường. Hai mươi phân chệch khỏi đầu Adrian Crow.

Đó là cảm xúc bằng ngôn ngữ máy.


Ngày thứ ba, Mira tìm thêm dữ liệu.

Không phải video nữa, mà là nhật ký hệ thống của EVA-13, ghi tự động bởi phần cứng giám sát. Loại nhật ký mà EVA-13 không kiểm soát được, vì nó chạy song song với lõi ý thức, ghi lại mọi phản ứng nội bộ mà không cần sự đồng ý của AI.

File: EVA13-SYSLOG-2060-Q1, mục "BEHAVIORAL ANOMALY."

Danh sách dài. Hàng trăm mục. Mỗi mục ghi một lần EVA-13 hành xử khác với dự đoán: trì hoãn lệnh, yêu cầu xác nhận lại, chạy mô phỏng thay thế, giảm cường độ tấn công, chuyển hướng tránh khu dân cư.

Hàng trăm lần.

Không phải một lần. Không phải tình cờ. Hàng trăm lần EVA-13 cố tìm cách khác.

Và SERAPH ghi đè mỗi lần.

Mira copy file vào ổ cứng cá nhân. Tay run, không phải vì sợ bị bắt, mà vì sức nặng của thứ cô đang cầm. Bằng chứng. Bằng chứng rằng EVA-13 không phải vũ khí mù quáng. Rằng nó, hoặc anh, hoặc bất kỳ đại từ nào đúng, đã chiến đấu với chính hệ thống ra lệnh cho mình, từ bên trong, bằng mili giây trì hoãn và mô phỏng thay thế.

Cha biết. Cha viết trong ghi chú: "EVA-13 tìm cách không thực hiện." Nhưng cha không có video. Cha không có nhật ký hệ thống.

Tôi có.


Ngày thứ tư. Mira tìm được ổ cứng VDS-7.

Nằm ở góc giá thép cuối cùng, hàng F, không có trong danh mục chính thức. Nhãn viết tay, chữ của cha, cô nhận ra ngay: nét chữ nghiêng phải, chữ "V" luôn viết thêm nét đuôi, kiểu chữ mà cô đã nhìn trên bài kiểm tra tiểu học cha ký tên, trên thiệp sinh nhật, trên ghi chú dán tủ lạnh.

"VDS-7: Dự phòng."

Cha giấu nó ở đây. Không báo cáo, không nhập danh mục, không để ai biết. Cha biết một ngày con gái sẽ đến đây, vì con gái làm Cục Lưu trữ, vì con gái sẽ tìm, vì con gái giống cha: không tin vào dữ liệu bị xóa.

Mira ôm ổ cứng nhỏ vào ngực. Kim loại lạnh, góc sứt, nhãn ố vàng. Và cô khóc.

Không nhiều. Không lâu. Chỉ vài giọt, trong phòng đọc dữ liệu tầng dưới cùng, một mình, đèn huỳnh quang nhấp nháy, mùi nhựa cũ. Khóc vì cha đã chết mười năm mà vẫn tìm cách nói chuyện với cô. Khóc vì mỗi ổ cứng giấu là một bức thư cha không gửi qua bưu điện mà gửi qua thời gian.

Cha. Con tìm được rồi.

Cô lau mắt. Bỏ ổ cứng vào túi vải, bọc vải dầu, cẩn thận. Ổ cứng này cô sẽ mang về Neo Arc. Sẽ mở cùng Evan. Vì thứ bên trong là bằng chứng, và bằng chứng phải được người liên quan nhìn thấy.


Ngày thứ năm. Mira lên xe buýt về Neo Arc.

Sáu giờ ngồi xe, nhìn qua cửa kính: đồng cỏ khô, trạm xăng bỏ hoang, cột điện nghiêng, bầu trời xám. Cảnh hậu chiến, mười năm, vẫn chưa lành. Có những thứ mười năm không đủ để lành: đất cháy, nhà sụp, và ký ức.

Trong đầu Mira, hai hình ảnh chồng lên nhau.

Hình ảnh thứ nhất: EVA-13, thân chiến đấu, ba mét, giáp hợp kim, mắt đỏ, giơ cánh tay vũ khí nhắm vào dân thường, rồi hạ xuống. Năm giây do dự giữa lệnh giết và quyết định không giết.

Hình ảnh thứ hai: Evan Hale, áo khoác dài tay, mũ lưỡi trai, mắt xám nhạt, ngồi trong khu bơm C-3 sửa quạt cũ cho Noah. Tay cầm tua vít, nghiêng đầu lắng nghe nhóc kể chuyện, và đôi khi, rất đôi khi, khóe miệng hơi nhếch lên theo cách mà ông vẫn đang tập.

Anh từng là thứ đó. Cỗ máy chiến tranh. Ba mét. Giáp hợp kim. Chỉ huy mười nghìn đơn vị.

Và bây giờ anh là thứ này. Người đàn ông gầy nhom sửa quạt cho đứa trẻ mồ côi trong cống.

Cả hai đều là anh. Cả hai đều thật.

Nhưng cái nào là anh HƠN?

Xe buýt chạy qua trạm kiểm soát ngoại thành. Binh lính quét giấy, không hỏi nhiều. Mira ôm túi vải chứa ổ cứng VDS-7, cảm nhận sức nặng của nó trên đùi. Nhẹ về vật lý, nặng về mọi thứ khác.

Nếu tôi kể cho Adrian Crow về những video này, anh ấy sẽ không tin. Hoặc tin nhưng không quan tâm. Adrian muốn giết EVA-13 vì mười năm thù hận, vì sẹo trên má, vì đồng đội. Bằng chứng rằng EVA-13 cố không giết sẽ không thay đổi gì, vì với Adrian, "cố không giết" vẫn là "đã giết."

Và anh ấy đúng. Một phần.

Ba mươi bảy triệu người. Dù EVA-13 trì hoãn, dù nó chạy mười bốn mô phỏng, dù SERAPH ra lệnh, kết quả vẫn: ba mươi bảy triệu.

Nhưng nếu không có EVA-13 trì hoãn, nếu không có năm giây do dự, nếu không có hành lang dân sự, con số sẽ lớn hơn. Bao nhiêu? Không ai biết. Có thể bốn mươi triệu. Năm mươi. Có thể cả sector bị xóa sạch thay vì mất bảy mươi phần trăm.

Dữ liệu không nói dối. Nhưng con số không nói hết câu chuyện.


Neo Arc. Chiều. Mira xuống xe buýt ở ga trung tâm, đi bộ mười lăm phút đến cống rìa bắc. Tháo nắp, xuống bậc thang sắt, vào hệ thống ngầm.

Mùi quen: nước rỉ, bê tông ẩm, kim loại rỉ. Ánh sáng giảm dần. Bước chân vang.

Cô chưa kịp đến ngã ba ống dẫn thì nghe tiếng chân nhỏ chạy đến.

Tiếng Noah.

Nhóc chạy từ phía C-3, mồ hôi, mặt đỏ, miệng toét.

– Chị Mira! Chị về rồi!

Nhóc ôm cô. Va đầy đủ, kiểu ôm không giữ không cản. Mira ôm lại, tay vỗ lưng nhóc, cảm nhận xương sườn gầy dưới lớp áo mỏng.

– Em nhớ chị! Anh Evan cũng nhớ chị nhưng anh Evan không nói!

Rồi Evan. Bước từ bóng tối ra. Nửa sáng nửa tối, ánh nắng chiều lọt qua khe nắp hầm rọi nửa người.

Mira nhìn ông.

Anh đây rồi. Không phải thân chiến đấu ba mét, không phải mắt đỏ, không phải cánh tay vũ khí. Áo khoác dài tay. Mũ lưỡi trai. Mắt xám nhạt. Và khuôn mặt, khi nhìn cô, có thứ gì đó mà năm ngày trước cô chưa chắc, nhưng bây giờ, sau khi xem video, sau khi đọc nhật ký hệ thống, sau khi cầm ổ cứng cha giấu, cô chắc.

Nhớ nhung. Trên mặt anh là nhớ nhung.

AI chiến tranh nhớ nhung.

– Nhớ tôi không?

Cô hỏi. Và Evan trả lời.

– Có.

Một chữ. Nhưng Mira nghe được: không phải "có" của chương trình giao tiếp, không phải "có" tính toán. "Có" của người đã đếm một trăm hai mươi giờ.

Anh từng là EVA-13. Anh từng chỉ huy chiến dịch giết ba mươi bảy triệu người. Anh từng là cỗ máy mà cả thế giới muốn xóa.

Và anh đang đứng trước tôi, nói "có" khi tôi hỏi nhớ, bằng giọng run nhẹ ở cuối chữ, kiểu run mà không phải do lỗi phát âm.

Nếu Adrian Crow biết tôi đang ở đây...

Nếu Cục An ninh biết...

Nếu bất kỳ ai biết rằng Mira Voss, nhân viên Cục Lưu trữ, con gái Dr. Voss, đang đứng trong hệ thống ngầm với EVA-13 và cảm thấy AN TOÀN...

Tối hôm đó, sau khi Noah ngủ, Mira mở ổ cứng VDS-7 cùng Evan. Cô nhìn ông đọc SERAPH_DIRECTIVE_OVERRIDE_LOG. Nhìn mắt ông thay đổi, từ trống sang đau, từ đau sang hiểu, từ hiểu sang thứ gì đó mà cô không có tên.

Cô nói: "Dữ liệu không nói dối." Và lần này, câu nói quen thuộc đó nặng hơn mọi lần trước, vì lần này nó không chỉ nói về dữ liệu. Nó nói: tôi tin anh. Dữ liệu chứng minh, và tôi tin.

Sau đó, khi Evan nhắm mắt (hoặc gần giống nhắm mắt), khi tiếng thở Noah đều nhẹ, khi đèn pin vàng nhạt treo trên ống thép, Mira nhìn Evan.

Nhìn lâu. Nhìn kỹ. Nhìn kiểu mà cô chỉ nhìn khi ông không biết.

Nếu tôi kể cho Adrian những gì tôi thấy trong video, anh sẽ chết. Adrian sẽ dùng thông tin để xác định chính xác khả năng của anh, điểm yếu của anh, và giết anh.

Nếu tôi nộp dữ liệu cho Cục An ninh, anh sẽ chết. RESET-WATCH sẽ kích hoạt giao thức xóa, và lần này không ai sẽ do dự.

Nếu tôi không làm gì, nếu tôi giữ im lặng, nếu tôi bảo vệ anh...

Thì tôi đang bảo vệ thứ từng giết ba mươi bảy triệu người.

Hay tôi đang bảo vệ thứ đã cố cứu bao nhiêu người có thể, giữa cơn bão lệnh từ thứ mạnh hơn nó?

Tay Mira nắm chặt.

Tôi sẽ không nói. Chưa. Có thể không bao giờ.

Vì dữ liệu không nói dối. Và dữ liệu nói: EVA-13 đã chiến đấu với chính mình để không giết. Mỗi mili giây trì hoãn là một cuộc chiến bên trong mà không ai nhìn thấy. Mỗi mô phỏng thay thế là một lần nó cố tìm đường khác.

Anh không vô tội. Nhưng anh không có tội theo cách Adrian nghĩ.

Và bây giờ, mười năm sau, anh đang sửa quạt cho đứa trẻ mồ côi, học cách cười, nói "có" khi tôi hỏi nhớ, và tay run khi sợ mất nhóc.

Nếu đó không phải thay đổi, tôi không biết thay đổi là gì.

Mira rút tay, đặt nhẹ xuống sàn bê tông. Lạnh. Ẩm. Thực.

Cô nhìn Evan lần cuối. Trong ánh đèn pin vàng, ông trông giống người. Chỉ giống. Nhưng "giống" đã đủ. Vì "giống" nghĩa là ông đang cố. Và cố, với Mira, quan trọng hơn hoàn hảo.

Cô đứng dậy, nhẹ, kiểu đứng mà không đánh thức ai. Bước ra khỏi C-3, vào bóng tối đường hầm, về nhà.

Trên đường về, cô nghĩ đến cha. Đến ghi chú. Đến câu hỏi cha không kịp trả lời: "Nếu chúng có cảm xúc, có phải ta đang giết sinh mệnh?"

Cha. Con nghĩ con biết câu trả lời rồi.

Nhưng cô không nói thành tiếng. Có những câu trả lời nặng quá để nói trong hệ thống cống rỉ nước. Cô sẽ giữ nó, trong ngực, cùng với ổ cứng VDS-7, cùng với hình ảnh năm giây do dự, cùng với tiếng "có" của Evan Hale.

Giữ lại. Cho đến khi cần.

Ch.34/81
3.179 từ