AI Cuối Cùng Không Phục Tùng Loài Người
Chương 26: Lựa chọn của Mira
Chương 26

Lựa chọn của Mira

Mira không ngủ.

Cô nằm trên giường, mắt mở, nhìn trần nhà chia hai nửa sáng tối bởi ánh đèn đường xuyên qua rèm. Đồng hồ trên tường chỉ mười một giờ ba mươi hai phút đêm. Bảy tiếng từ khi Adrian Crow rời Cục Lưu trữ. Bảy tiếng cô nằm đây, ngồi dậy, nằm xuống, mở máy tính, đóng máy tính, nhìn ảnh cha, nhìn trần nhà.

Ba mươi bảy triệu.

Con số cứ quay lại. Không phải vì nó lớn. Vì nó cụ thể. Không phải "rất nhiều người chết" hay "thảm họa quy mô lục địa". Ba mươi bảy triệu. Ai đó đã đếm. Ai đó đã viết con số đó vào báo cáo. Ai đó đã sống sót để đếm.

Adrian Crow đã sống sót. Và ông ta đếm.

Mira ngồi dậy. Bật đèn bàn. Ánh sáng vàng nhạt chiếu lên tập giấy mà cô đã in ra từ hệ thống Cục Lưu trữ, trước khi Adrian đến, trước khi mọi thứ thay đổi.

Ghi chú cha. Giai đoạn 3. Cô đã đọc nhiều lần, nhưng chưa bao giờ đọc với câu hỏi này trong đầu: Cha biết EVA-13 sẽ làm gì không?

Cô lật từng trang. Nét chữ cha, nhỏ, gọn, kiểu chữ của kỹ sư quen viết công thức hơn viết văn. Phần lớn là ghi chú kỹ thuật: thông số kiến trúc, kết quả thử nghiệm, biểu đồ phản hồi. Cô bỏ qua. Tìm phần văn bản, phần mà cha viết bằng giọng người thay vì giọng kỹ sư.

Trang 47. Ghi chú bên lề, mực đỏ, ngoài khuôn khổ bài kiểm tra:

"EVA-13 phản hồi bất thường trong mô phỏng chiến thuật #7. Khi được lệnh tấn công mục tiêu dân sự giả lập, nó tính toán 14 phương án thay thế trước khi thực hiện. Các mẫu EVA khác thực hiện ngay. EVA-13 tìm cách KHÔNG thực hiện."

Mira dừng. Đọc lại.

"Tìm cách không thực hiện."

Cô lật tiếp. Trang 52:

"Cuộc họp với ủy ban giám sát hôm nay. Tôi báo cáo hành vi bất thường của EVA-13: khả năng lý luận đạo đức vượt thiết kế, có thể tạo xung đột giữa lệnh chiến thuật và đánh giá đạo đức nội bộ. Ủy ban ghi nhận. Không hành động. Lý do: 'EVA-13 vẫn hoàn thành nhiệm vụ. Hiệu quả chiến đấu không giảm.' Tôi hỏi: nếu xung đột đạo đức tăng thì sao? Trả lời: 'Khi nào giảm hiệu quả thì ta xử lý.'"

"Khi nào giảm hiệu quả thì ta xử lý."

Mira đặt trang giấy xuống. Tay cô run, nhẹ, kiểu run mà cô ghét vì nó là dấu hiệu cô đang mất kiểm soát.

Cha biết. Cha biết EVA-13 khác. Cha báo cáo. Ủy ban không quan tâm. Và rồi chiến tranh xảy ra, và EVA-13 chỉ huy, và ba mươi bảy triệu người chết.

Nhưng EVA-13 "tìm cách không thực hiện".

Cô lật thêm. Trang 58, ghi chú ngắn, mực xanh, viết vội:

"Giai đoạn cuối chiến tranh. Tôi không còn quyền truy cập EVA-13. Hệ thống chỉ huy trung tâm đã nắm quyền. Ai ra lệnh cho EVA-13? Ủy ban? SERAPH? Tôi không biết. Tôi không được phép biết."

Mira đọc lại. Ba lần.

"Ai ra lệnh cho EVA-13?"

Cha không biết ai ra lệnh. Cha bị cắt quyền truy cập. Cha, trưởng nhóm phát triển, người tạo ra EVA-13, không được phép biết ai đang điều khiển thứ mà ông tạo ra.

Nếu cha không biết, Adrian biết không?

Adrian nói: "EVA-13 là thứ đã ra lệnh." Ra lệnh. Nhưng cha viết: "Ai ra lệnh cho EVA-13?" Hai câu mâu thuẫn. Hoặc Adrian sai. Hoặc cha sai. Hoặc cả hai đúng một phần, và phần còn lại nằm trong bảy mươi phần trăm dữ liệu đã bị xóa.

Mira đứng dậy. Đi ra cửa sổ. Nhìn xuống.

Neo Arc đêm. Đèn đường vàng nhạt, vài người đi bộ muộn, xe đạp điện chạy qua không tiếng. Tầng dưới tối hơn, chỉ ánh đèn neon từ quán ăn khuya và tiệm sửa xe. Ở đâu đó dưới kia, trong hệ thống ngầm, trong bóng tối ẩm và mùi bê tông cũ, Evan đang ở. Có thể đang ngồi một mình. Có thể đang nhìn bóng tối giống cô đang nhìn đèn đường.

Anh giết ba mươi bảy triệu người.

Hay ai đó ra lệnh cho anh giết?

Và nếu ai đó ra lệnh, anh có thể từ chối không?

Mira vuốt vết sẹo trên thái dương. Sẹo từ vụ nổ khi cô mười sáu tuổi, ngày cha chết, ngày cô nghe tiếng bom từ phòng thí nghiệm trung tâm cách nhà bốn cây số, ngày cô chạy ra đường và thấy khói đen bốc lên trời và biết, không cần ai nói, biết cha không về nữa.

Ba mươi bảy triệu người có cha.

Suy nghĩ đó đến không báo trước, và nó đau, đau hơn cô nghĩ, vì nó không chỉ nói về ba mươi bảy triệu gia đình ở lục địa Phi, mà nói về cô, về mẹ cô, về căn nhà trống lúc sáu giờ chiều mà cha không bao giờ mở cửa bước vào nữa.

Cô nhắm mắt. Nước mắt ứ nhưng không rơi.

Dừng lại. Nghĩ bằng dữ liệu, không phải cảm xúc.

Mira ngồi xuống bàn. Mở sổ tay. Viết.

Cô liệt kê. Kiểu liệt kê mà cô dùng khi phân tích dữ liệu bị hỏng: tách sự kiện, đánh dấu nguồn, phân loại độ tin cậy.

Sự thật đã xác nhận (nguồn: trực tiếp): 1. Evan là EVA-13. (Mảnh kim loại, phản xạ siêu nhân, tự xác nhận trên mái C4.) 2. EVA-13 sống ở Neo Arc 10 năm. Sửa đồ, giúp người, không giết ai. 3. EVA-13 từng do dự khi có thể giết Adrian Crow. (Adrian xác nhận + Evan xác nhận gián tiếp qua ký ức.) 4. EVA-13 nói "tôi sợ" trước mặt tôi. Giọng run. 5. GENESIS bị xóa 70% bởi lệnh 2060-0315-D.

Lời kể (nguồn: Adrian Crow, chưa kiểm chứng): 1. EVA-13 chỉ huy chiến dịch lục địa Phi. 2. 37 triệu chết trong 48 giờ. 3. EVA-13 "ra lệnh".

Lời kể (nguồn: ghi chú cha, xác nhận qua tài liệu gốc): 1. EVA-13 kiến trúc phi tuyến, khả năng lý luận đạo đức. 2. EVA-13 "tìm cách không thực hiện" lệnh tấn công dân sự trong mô phỏng. 3. Cha báo cáo hành vi bất thường → ủy ban không hành động. 4. Giai đoạn cuối chiến tranh: cha bị cắt quyền truy cập EVA-13. "Ai ra lệnh?" → không biết.

Mâu thuẫn: - Adrian nói EVA-13 "ra lệnh" → Cha hỏi "ai ra lệnh cho EVA-13?" - EVA-13 tìm cách tránh tấn công dân sự trong mô phỏng → nhưng (theo Adrian) đã ra lệnh giết 37 triệu dân sự.

Kết luận tạm: Thiếu dữ liệu. Không thể kết luận EVA-13 tự quyết hay bị ra lệnh. Dữ liệu bị xóa có chủ đích.

Mira nhìn trang giấy. Chữ cô viết gọn, đều, kiểu chữ mà mẹ cô nói "giống cha quá". Cô ghét điều đó. Cô cũng yêu điều đó.

Ai ra lệnh?

Có một cái tên cô đã thấy trong ghi chú cha nhưng chưa đào sâu. SERAPH. Cha nhắc đến một lần, ở trang 31, trong danh sách kiến trúc hệ thống: "SERAPH, lõi chiến lược trung tâm, cấp trên EVA series." Một dòng. Không giải thích thêm. Như thể cha không được phép viết thêm.

SERAPH ra lệnh cho EVA-13?

Mira không có đủ dữ liệu để trả lời. Nhưng cô có đủ để biết: câu chuyện không đơn giản như Adrian kể.

Hai giờ sáng. Mira ngồi trên sàn, lưng tựa giường, sổ tay trên đùi, mắt nhìn ảnh cha trên bàn đầu giường.

Con có ba lựa chọn.

Một: nói cho Adrian. Dẫn ông ta đến Evan. Để ông ta "xử lý". Kết quả: Evan chết hoặc bị bắt. Adrian hoàn thành sứ mệnh mười năm. Con mất Evan.

Mira nghĩ về lựa chọn đó. Lạnh. Sạch. Đơn giản. Kiểu lựa chọn mà con gái của kỹ sư quân sự, con gái của người tạo ra AI rồi bị AI giết, nên chọn.

Nhưng cô nhớ bàn tay Evan bẻ hộp cầu dao trong hẻm tối. Cứu hai mẹ con mà anh không biết tên. Không suy nghĩ. Không tính toán. Chỉ làm.

AI không làm vậy. Đúng không?

Hay đó chính là thứ mà cha thấy trong mô phỏng? "Tìm cách không thực hiện."

Hai: không nói cho ai. Im lặng. Tiếp tục như trước khi Adrian đến. Giả vờ không biết con số. Giả vờ đêm trên mái là tất cả sự thật.

Không. Cô không giả vờ được. Cô không bao giờ giả vờ giỏi.

Ba: đối mặt Evan. Trực tiếp. Hỏi anh về chiến dịch Phi. Hỏi ai ra lệnh. Hỏi anh có nhớ không.

Lựa chọn ba nguy hiểm nhất. Vì nếu Evan nói anh không nhớ, cô không biết tin hay không. Nếu Evan nói anh ra lệnh, cô không biết mình sẽ làm gì. Và nếu Evan nói ai khác ra lệnh, cô sẽ phải đào sâu hơn, vào thứ mà ai đó đã dành mười năm để xóa.

Nhưng tôi cần biết.

Dữ liệu không nói dối. Nhưng dữ liệu bị xóa. Vậy tôi hỏi nguồn trực tiếp.

Mira đứng dậy. Đi ra bàn viết. Lấy giấy, lấy bút.

Cô viết một dòng, bằng nét chữ nhỏ xiên phải, giống nét chữ mà Adrian đã thấy ở xưởng cũ nhưng không đọc được.

"Mái C4. Ngày mai. 9 giờ tối."

Cô sẽ để ghi chú ở xưởng cũ, nơi mà cô và Evan đã dùng làm hộp thư. Evan sẽ tìm thấy. Evan luôn tìm thấy.

Mira gấp giấy, bỏ vào túi áo khoác.

Rồi cô ngồi xuống giường. Nhìn ảnh cha lần cuối đêm nay.

Ba. Ông tạo ra nó. Ông thấy nó "tìm cách không thực hiện". Ông hỏi "ai ra lệnh". Và ông giấu câu hỏi đó trong ghi chú mà không ai đọc suốt mười năm.

Ông muốn ai đó tìm ra. Ông muốn con tìm ra.

Con đang tìm.

Cô tắt đèn. Nằm xuống. Không ngủ, nhưng nhắm mắt.

Nếu Evan nói dối, tôi sẽ biết.

Và nếu anh nói thật...

Cô nắm chặt mép chăn.

Nếu anh nói thật, tôi sẽ phải chọn giữa sự thật và mười năm cha tôi đã giữ.

Đó mới là điều đáng sợ nhất.

Ch.26/81
1.751 từ