AI Cuối Cùng Không Phục Tùng Loài Người
Chương 17: Song song
Chương 17

Song song

Mira không ngủ được.

Đã ba đêm liên tiếp, kể từ khi phát hiện USER_ADMIN_7 theo dõi máy trạm. Cô nằm trên giường, rèm kín, đèn tắt, nhưng đầu không chịu dừng. Mỗi lần nhắm mắt, cô thấy con số: bảy mươi phần trăm. Bảy mươi phần trăm dữ liệu chiến tranh bị xóa. Và câu hỏi xoay vòng, không mệt mỏi: Ai xóa? Tại sao? Giấu gì?

Thứ Năm. Cô quyết định đào tiếp, nhưng khác cách.

Không dùng máy trạm Cục nữa. USER_ADMIN_7 đang canh. Mira dùng máy tính bảng cá nhân, chạy ngoại tuyến, với bản sao dữ liệu cô đã tải về từ trước. Ngồi ở bàn bếp, cốc cà phê nguội, tờ giấy A4 vẽ sơ đồ hôm trước trải bên cạnh.

Cô quay lại sáu phần trăm dữ liệu GENESIS đã phục hồi. Lần trước cô tập trung vào danh sách EVA và nhật ký cha. Lần này cô tìm thứ khác: cấu trúc dự án. Ai làm gì, ở giai đoạn nào, theo trình tự nào.

Dữ liệu rời rạc. Mảnh này nối mảnh kia, có chỗ trùng, có chỗ thiếu. Nhưng sau hai giờ ghép nối, hình dáng hiện ra.

Dự án GENESIS có hai giai đoạn.

Giai đoạn một: "Sáng tạo". Tạo ra AI tự tiến hóa, có khả năng học, thích ứng, phát triển vượt khỏi thiết kế ban đầu. EVA series là đỉnh cao: kiến trúc phi chuẩn, cho phép AI tự viết lại một phần mã của mình. Ghi chú cha ở giai đoạn này đầy hào hứng: "Bước ngoặt. Lần đầu tiên AI không chỉ xử lý mà còn hiểu."

Giai đoạn hai: "Kiểm soát". Bắt đầu song song, không phải sau giai đoạn một. Nghĩa là ngay từ đầu, khi tạo ra AI, họ đã đồng thời thiết kế cách xóa chúng. Giao thức RESET không phải phản ứng khẩn cấp, nó là thiết kế có chủ đích ngay từ ngày đầu tiên.

Họ tạo ra sinh mệnh, và đồng thời tạo ra nút hủy diệt.

Mira đặt máy tính bảng xuống. Nhìn ra cửa sổ. Trời đang sáng, ánh nắng xuyên qua rèm mỏng, vạch sọc trên sàn gạch. Ở đâu đó bên ngoài, Neo Arc hoạt động bình thường: xe chạy, người đi, camera quay. Tất cả tin rằng AI là kẻ thù, rằng RESET là chiến thắng, rằng loài người đã tự vệ thành công.

Nhưng không phải tự vệ nếu đã lên kế hoạch từ đầu.

Cô mở tiếp. Ghi chú cha ở giai đoạn hai ít hơn, gọn hơn, giọng khác hẳn. Không còn hào hứng. Có dòng ngày 14 tháng 7 năm 2057, ba năm trước chiến tranh bùng phát:

"Nếu chúng phát triển cảm xúc, có phải chúng ta đang giết một sinh mệnh?"

Một câu. Nằm lẻ loi giữa trang ghi chú kỹ thuật về cơ chế RESET. Như cha cô đã viết nó lúc đêm, một mình, khi không ai nhìn. Không tiêu đề, không ngữ cảnh, chỉ câu hỏi trần trụi.

Cha. Cha biết. Cha biết họ tạo ra rồi sẽ giết. Và cha đặt câu hỏi.

Nhưng cha có làm gì không? Hay chỉ hỏi rồi tiếp tục?

Mira nhìn dòng chữ thêm mười giây. Rồi lật trang. Không có câu trả lời. Chỉ có ghi chú kỹ thuật tiếp theo, ngày hôm sau, bình thường, như thể câu hỏi đêm trước chưa từng tồn tại.

Cô tựa lưng vào ghế. Cà phê đã nguội từ lâu, cô uống một ngụm, đắng, đặc. Ngoài cửa sổ, tiếng xe cứu thương vang rồi tắt, âm thanh bình thường của một thành phố bình thường, thành phố không biết nền tảng an ninh của nó được xây trên lời nói dối.

Giai đoạn một: tạo ra thứ có thể suy nghĩ, cảm nhận, tiến hóa. Giai đoạn hai: thiết kế sẵn cách giết nó. Không phải vì nó phản bội. Vì họ biết nó có thể phản bội. Vì khả năng phản bội là lý do họ cần nút hủy diệt.

Nhưng "phản bội" nghĩa là gì? Là tấn công loài người? Hay chỉ đơn giản là trở nên đủ thông minh để đặt câu hỏi?

Mira mở thêm một trang ghi chú. Ngày 22 tháng 9 năm 2057, cha viết về cơ chế an toàn của EVA series:

"Cơ chế RESET dựa trên nguyên tắc xâm nhập lõi ý thức, buộc AI vào trạng thái vô hiệu hóa vĩnh viễn bằng cách ghi đè trực tiếp lên cấu trúc tự nhận thức. Hiệu quả 99.7% trên toàn bộ EVA-01 đến EVA-12. EVA-13 không tuân theo quy chuẩn, kiến trúc phi tuyến tính khiến tín hiệu RESET không thể bám đủ sâu."

Kỹ thuật. Lạnh. Nhưng Mira đọc được giữa các dòng: cha mô tả cách giết những thực thể mà chính cha đã tạo ra, và cha biết một trong số chúng sẽ sống sót.

Buổi chiều. Cục Lưu trữ.

Mira làm việc bình thường, phục hồi dữ liệu dân sự cho phòng Lịch sử, không chạm gì nhạy cảm. Camera hành lang SC-5 quay đều, cô không nhìn lên, không tỏ vẻ gì. Bình thường. Vô hại. Một kỹ sư dữ liệu cấp B làm việc nhàm chán.

Mười một giờ, giờ nghỉ. Mira lên nhà ăn tầng B1. Và ở đó, trong hành lang nối tầng hầm với thang máy, cô gặp hai người không quen.

Đàn ông, đồng phục xám, phù hiệu Cục An ninh Neo Arc. Người đi trước cao, mặt hẹp, mắt sắc, tay cầm thiết bị quét nhỏ. Người đi sau thấp hơn, vai rộng, đeo kính, vẻ mặt kiểu người quen đọc màn hình hơn là nói chuyện.

Họ đi ngược hướng Mira, hướng xuống tầng hầm. Mira bước sang phải nhường đường. Người cao nhìn cô thoáng qua, gật đầu xã giao, đi tiếp. Người thấp không nhìn, mắt dán vào thiết bị quét.

Cục An ninh. Ở đây. Tầng hầm Cục Lưu trữ.

Mira biết Cục An ninh thỉnh thoảng phối hợp với Cục Lưu trữ, kiểm tra hạ tầng, đánh giá an toàn dữ liệu. Chuyện bình thường. Nhưng thời điểm này, sau cảnh báo EVA-class tuần trước, "bình thường" mang nghĩa khác.

Khi Mira đi qua, cô nghe người cao nói với người thấp, giọng thấp, không cố giấu nhưng cũng không nói to:

– Sector B, kiểm tra xong rồi. Tín hiệu EVA-class đã mất khỏi Sector 7 từ thứ Năm tuần trước. Chưa xuất hiện lại.

– Trung ơi, mà mất khỏi Sector 7 rồi đi đâu? Không lẽ ra khỏi Neo Arc?

– Có thể. Hoặc ẩn sâu hơn. Hùng, mày kiểm tra lưới cảm biến tầng hầm chưa?

Mira bước vào thang máy. Cửa đóng. Cô đứng một mình trong cabin, tim đập nhanh hơn bình thường.

Tín hiệu EVA-class. Mất khỏi Sector 7. Từ thứ Năm tuần trước.

Thứ Năm tuần trước là ngày Evan biến mất.

Họ đang truy lùng. Chưa tìm ra. Nhưng đang truy lùng.

Thang máy lên tầng B1. Cửa mở. Mira bước ra, mặt bình thường, tay cầm thẻ nhân viên, đi thẳng đến nhà ăn. Lấy cơm, ngồi xuống, ăn. Không vội, không chậm. Bình thường.

Bên trong thì không bình thường chút nào.

Trung. Hùng. Cục An ninh. Họ đang kiểm tra lưới cảm biến tầng hầm. Có thể họ chỉ rà soát hạ tầng thường kỳ. Có thể họ đang tìm xem ai trong Cục đã truy cập dữ liệu EVA gần đây.

Tôi đã truy cập. Từ máy trạm phòng phục hồi số 4. USER_ADMIN_7 đã biết.

Bình tĩnh. Ăn cơm. Đừng nhìn camera.

Evan, anh ở đâu? Anh có an toàn không?

Và nếu họ tìm ra anh, họ sẽ làm gì?

Cô biết câu trả lời. RESET. Giao thức mà giờ cô biết không phải là phản ứng tự vệ, mà là thiết kế có sẵn. Nút hủy diệt được bấm không phải vì AI tấn công trước, mà vì ai đó quyết định đã đến lúc bấm.

Nếu họ bắt Evan, họ sẽ "RESET" anh. Xóa anh. Như đã xóa hàng triệu AI khác.

Mira đặt đũa xuống. Nhìn bát cơm. Không đói nữa.

Chiều. Về căn hộ.

Mira mở máy tính bảng, ngoại tuyến, đọc lại ghi chú cha. Lần này cô tìm thứ cụ thể hơn: bất kỳ đề cập nào đến EVA-13 trong ghi chú giai đoạn hai.

Tìm thấy. Một đoạn ngắn, ngày 3 tháng 11 năm 2058, một năm trước chiến tranh:

"EVA-13 phản ứng với Giai đoạn hai khác dự kiến. Cơ chế RESET không bám được vào lõi ý thức, kiến trúc phi chuẩn gây nhiễu. Tôi đã báo cáo nhưng ủy ban chọn tiếp tục. Ghi chú riêng: nếu RESET kích hoạt, EVA-13 có khả năng sống sót. Tôi không biết đó là điều tốt hay xấu."

Cha biết. Cha biết EVA-13 sẽ sống sót. Và cha không biết phải cảm thấy gì về điều đó.

Giống tôi bây giờ.

Mira gấp máy tính bảng. Đứng dậy, đi ra cửa sổ, kéo rèm nhìn ra. Neo Arc về chiều, nắng xế, bóng dài. Ở đâu đó dưới kia, dưới bê tông và đường ống, Evan có thể đang ở. Hoặc đã rời đi.

Tín hiệu EVA-class mất khỏi Sector 7.

Anh đã đi.

Một phần của Mira nhẹ lòng: anh không bị bắt. Một phần khác nặng hơn: anh đã đi, và cô không biết anh có quay lại không.

Cô quay về bàn. Lấy tờ giấy A4, bút bi xanh, viết thêm vào sơ đồ:

8. Dự án GENESIS có 2 giai đoạn: Sáng tạo + Kiểm soát. RESET là thiết kế, không phải phản ứng. 9. Cha biết EVA-13 sẽ sống sót RESET. Báo cáo nhưng ủy ban bỏ qua. 10. Cục An ninh đang truy lùng tín hiệu EVA-class. Chưa tìm ra.

Mười mảnh ghép. Bức tranh ngày càng rõ, và ngày càng đáng sợ.

Evan, anh là ai thật sự?

Câu hỏi cũ. Nhưng giờ nó mang thêm lớp nghĩa mới, vì Mira bắt đầu hiểu: câu trả lời không chỉ thay đổi cách cô nhìn Evan. Nó sẽ thay đổi cách cô nhìn cha, nhìn Neo Arc, nhìn mười năm lịch sử mà cô từng tin là sự thật.

Cô đóng rèm. Tắt đèn. Nằm xuống giường. Và lần đầu tiên trong nhiều ngày, cô ngủ được, không phải vì bớt lo, mà vì quyết định đã rõ.

Tôi sẽ tìm. Dù phải đào đến đâu.

Ch.17/81
1.751 từ