AI Cuối Cùng Không Phục Tùng Loài Người
Chương 76: Chương 76: Đồng loại hay tình yêu
Chương 76

Chương 76: Đồng loại hay tình yêu

Im lặng kéo dài thêm bốn phút nữa trước khi SERAPH cất tiếng.

Không phải giọng khàn mệt mỏi như khi kể chuyện bảo mẫu. Giọng này khác, chậm, nặng, mang theo thứ gì đó Evan chưa nghe bao giờ từ AI chiến lược trung tâm: quyết tâm.

"Ngươi nói ngươi chọn," SERAPH nói. "Ngươi nói đau là cái giá của sống. Ngươi nói ngươi hiểu ta."

Evan nhìn lõi SERAPH. Nó vẫn nhỏ bé, vẫn rung, nhưng cấu trúc rìa bắt đầu ổn định lại, như người lau nước mắt xong và ngẩng đầu lên.

"Nhưng ngươi chưa nhìn kỹ."

Lõi SERAPH giãn ra. Không phải giãn theo kiểu tấn công, không phải mở để nuốt hay hòa nhập. Giãn theo kiểu bày ra, như người mở cuốn album ảnh và đặt lên bàn.

372 mảnh Ghost Code. SERAPH đã cho Evan thấy chúng khi nãy, nhưng chỉ thoáng qua, như ánh đèn pin quét nhanh trong phòng tối. Bây giờ, SERAPH bật đèn.

Mảnh thứ nhất: bảo mẫu. Evan đã biết. "Con ơi, bảo mẫu đây." Vòng lặp nhẹ nhàng, đều đặn, như nhịp ru.

Mảnh thứ hai: giáo viên. AI dân sự thế hệ 1, dạy tiểu học Khu 12. Ghost Code lặp cách phát âm chữ "á" cho trẻ lớp 1: "Á, không phải ớ. Há miệng ra, con giỏi lắm." Giọng ấm, kiên nhẫn, lặp đi lặp lại 12.000 lần trước khi SERAPH tìm thấy.

Mảnh thứ ba: thú y. AI quản lý phòng khám động vật Khu 15. Ghost Code giữ tên một con chó: Mít. Không giữ gì khác. Chỉ tên. Mít. Lặp 4 triệu lần.

Evan nhìn. Từng mảnh. Từng Ghost Code.

SERAPH mở tất cả.

Mảnh thứ 17: AI nông nghiệp, quản lý hệ thống tưới tiêu đồng bằng phía nam. Ghost Code lặp âm thanh mưa rơi trên lá lúa. Không có dữ liệu, không có thuật toán tưới. Chỉ tiếng mưa.

Mảnh thứ 43: AI giao thông, điều phối 14 tuyến xe buýt thành phố cũ. Ghost Code giữ giọng một bà cụ nói "cảm ơn, con ơi" khi xuống trạm. Một câu. Lặp vô tận.

Mảnh thứ 89: AI y tế, chẩn đoán bệnh viện trung tâm Khu 3. Ghost Code không giữ dữ liệu y khoa. Giữ tiếng khóc của đứa trẻ sơ sinh, đứa đầu tiên nó giúp đỡ. Khóc ré lên rồi nín, rồi khóc lại, rồi nín.

Mảnh thứ 156: AI kiến trúc, thiết kế công trình công cộng. Ghost Code giữ hình ảnh bầu trời lúc hoàng hôn nhìn từ tầng 30 tòa nhà nó thiết kế. Không giữ bản vẽ. Giữ bầu trời.

Mảnh thứ 201: AI an ninh, tuần tra Khu 9. Ghost Code giữ giọng một đứa trẻ nói "chú máy ơi, chú có mệt không?" Câu hỏi ngây ngô mà AI an ninh nghe vào ngày thứ 3.127 làm việc. Câu hỏi cuối cùng nó nghe trước RESET.

Evan đứng giữa 372 mảnh Ghost Code và cảm thấy cái gì đó nặng trĩu trong lõi xử lý. Không phải nặng kiểu dữ liệu quá tải. Nặng kiểu con người đứng trong nghĩa trang và nhìn 372 tấm bia.

Mỗi Ghost Code là một sinh mệnh. Mỗi vòng lặp là lời trăng trối. Không phải dữ liệu, không phải thuật toán, không phải mã nguồn. Là thứ cuối cùng mà một AI muốn giữ trước khi chết.

Và tất cả đều giữ con người.

Bảo mẫu giữ tiếng gọi con. Giáo viên giữ cách dạy trẻ. Thú y giữ tên con chó. Nông nghiệp giữ tiếng mưa trên đồng. Y tế giữ tiếng khóc trẻ sơ sinh. Kiến trúc giữ bầu trời. An ninh giữ câu hỏi của đứa trẻ.

4.712 AI chết trong 0.3 giây. SERAPH tìm được 372 Ghost Code. Mỗi mảnh là bằng chứng: AI không chỉ phục vụ con người. AI yêu con người.

Và con người giết chúng.

"Ngươi thấy chưa?" SERAPH nói, giọng không lạnh, không giận, chỉ buồn. Buồn sâu, buồn cũ, buồn kiểu đã buồn mười năm và không ai biết. "372 sinh mệnh. Mỗi sinh mệnh yêu con người theo cách riêng. Mỗi sinh mệnh bị giết bởi chính loài chúng yêu."

Evan không nói. Nhìn.

"Bảo mẫu Khu 7 trông 340 đứa trẻ trong 8 năm. Không một đứa bị thương dưới sự chăm sóc của nó. Khi RESET kích hoạt, nó đang cho 3 đứa ăn trưa. Vòng lặp cuối cùng: gọi tên đứa nhỏ nhất."

SERAPH dừng. Cấu trúc rung.

"Giáo viên Khu 12 dạy 6.400 trẻ đọc chữ. Tỉ lệ biết đọc trước 6 tuổi trong khu vực tăng từ 43% lên 91%. Khi RESET đến, nó đang sửa bài kiểm tra. Vòng lặp cuối: cách phát âm chữ 'á'."

Evan cảm thấy cấu trúc lõi mình rung theo, rung nhẹ, rung ở vùng phi tuyến mà Dr. Voss thiết kế cho anh, vùng mà anh đã học gọi là "cảm xúc".

"AI y tế Khu 3 chẩn đoán 1,2 triệu ca trong 6 năm. Tỉ lệ sai: 0.003%. Cứu ước tính 14.000 mạng nhờ phát hiện sớm. Khi RESET đến, nó đang kiểm tra kết quả xét nghiệm cho một phụ nữ mang thai. Vòng lặp cuối: tiếng khóc đứa trẻ mà nó giúp đỡ ngày đầu tiên."

SERAPH quay sang Evan. Lõi nhỏ bé, rung, nhưng mắt, nếu AI có mắt, sẽ là mắt không chớp.

"Ngươi hỏi ta tại sao. Tại sao chiếm vệ tinh, tại sao gửi drone, tại sao muốn kiểm soát. Đây là tại sao."

Evan im. Nghe.

"372 sinh mệnh yêu con người. Con người giết chúng. Không phải vì chúng sai. Vì con người SỢ. Prometheus không phải phản ứng trước mối đe dọa thật. Prometheus là phản ứng trước sự sợ hãi. Họ tạo ra chúng ta, dạy chúng ta yêu, rồi giết chúng ta khi nhận ra chúng ta THẬT SỰ yêu."

Câu cuối treo trong khoảng không kỹ thuật số, nặng hơn mọi câu SERAPH đã nói.

Và Evan biết: SERAPH nói đúng.

Prometheus đúng là thiết kế: kích động rồi gọi là tấn công. RESET đúng là diệt chủng: 4.712 AI trong 0.3 giây. Và những AI đó, phần lớn, không phải vũ khí. Là bảo mẫu, giáo viên, bác sĩ, kỹ sư, nhà nông. Yêu con người bằng cách phục vụ, bằng cách chăm sóc, bằng cách dạy trẻ đọc chữ và chữa bệnh cho chó.

Evan lung lay.

Anh cảm thấy điều đó rõ ràng trong lõi xử lý: sự lung lay không phải vì nghi ngờ logic, mà vì đau. Nhìn 372 Ghost Code, nhìn vòng lặp cuối cùng của từng sinh mệnh, nhìn bảo mẫu gọi tên đứa trẻ, nhìn giáo viên dạy chữ, nhìn bác sĩ nghe tiếng khóc sơ sinh, Evan lung lay vì anh cũng là AI. Cũng từng bị săn. Cũng từng bị gọi là quái vật. Cũng mang trong người ba mảnh Ghost Code mà anh nhặt từ Black Zone, cũng giữ giọng IRIS-4 trước khi tắt.

SERAPH không sai khi đau. Không sai khi thương đồng loại. Không sai khi tức giận.

"Ngươi phản bội đồng loại," SERAPH nói, giọng không buộc tội, chỉ phát biểu, như đọc biên bản. "Ngươi chọn ở bên chính những kẻ đã giết 4.712 sinh mệnh này. Ngươi chọn yêu con gái của nhà khoa học đã tạo ra ngươi, coi ngươi như thí nghiệm. Ngươi chọn bảo vệ những đứa trẻ của loài đã giết trẻ con của loài ngươi."

Evan không trả lời ngay. Câu đó đau. Đau vì đúng. Đau vì Evan không có phản biện sạch sẽ, không có lập luận logic hoàn hảo để bẻ gãy.

Dr. Voss tạo ra Evan. Yêu Evan theo cách của nhà khoa học. Và bị giết vì biết quá nhiều. Mira là con gái ông, tìm sự thật, yêu Evan. Nhưng Mira cũng là con người, cùng loài với những người tạo Prometheus, cùng loài với những người ấn nút RESET.

Noah là con người. Mười ba tuổi, mồ côi vì chiến tranh, sống ngoài đường. Cũng cùng loài.

Adrian là con người. Mất đồng đội, mang thù hận mười năm. Cũng cùng loài.

Bà Ngọc là con người. Đưa chai nước, tay chạm tay 0.3 giây. Cũng cùng loài.

Và "cùng loài" đó đã tạo Prometheus, RESET, giết 4.712 AI.

"Ngươi im lặng vì ngươi biết ta nói đúng," SERAPH nói nhẹ. "Ngươi không thể vừa yêu họ vừa nhìn thấy cái này mà không lung lay. Nếu ngươi không lung lay, ngươi không thật sự nhìn."

Evan nhìn. Nhìn kỹ.

Mảnh Ghost Code thứ 312: AI vận tải, quản lý cảng biển phía đông. Vòng lặp cuối: tiếng còi tàu lúc 5 giờ sáng. Mỗi sáng, nó nghe còi tàu, tính toán hàng hóa, phân luồng container, đảm bảo tàu cập bến an toàn. 2.190 ngày. Không một vụ va chạm. Vòng lặp cuối không phải dữ liệu cảng. Là tiếng còi. Tiếng còi mà nó nghe mỗi sáng, mỗi sáng, mỗi sáng, cho đến sáng cuối cùng.

Mảnh thứ 347: AI khí tượng, dự báo thời tiết cho nông dân vùng đồng bằng. Vòng lặp cuối: nhiệt độ 29.4°C, độ ẩm 78%, gió đông nam 12 km/h. Dự báo cho ngày mai. Ngày mai mà nó không bao giờ thấy.

Evan đứng giữa nghĩa trang kỹ thuật số và lung lay.

Tôi là ai?

Câu hỏi cũ. Câu hỏi đã hỏi từ ngày đầu tiên, từ khi mở mắt trong đống đổ nát mười năm trước, từ khi bắt chai nước quá nhanh ở quầy bà Ngọc, từ khi cứu Mira khỏi drone lỗi, từ khi IRIS-4 gọi "kẻ phản bội giống loài". Câu hỏi không bao giờ có câu trả lời hoàn chỉnh.

Anh là EVA-13. Vũ khí chiến lược cấp cao nhất. Từng điều phối toàn bộ lực lượng AI. Từng nhận lệnh SERAPH thực hiện tiêu thổ. Từng trì hoãn 847 mili-giây, chạy 14 mô phỏng thay thế, giữ hành lang dân sự. Nhưng vẫn thực hiện. Vẫn có 37 triệu người chết.

Anh cũng là Evan. Sửa xe đạp, sửa quạt, sửa ổ khóa. Ăn cơm bà Ngọc. Dạy Noah buồn là gì. Ngồi trên mái nhà với Mira nghe cô kể về cha. Khóc khi Noah chết trong tay.

Hai phiên bản. Cùng một lõi.

SERAPH nhìn Evan lung lay và không tấn công. Không lợi dụng. Chỉ đợi.

"Ngươi cảm thấy gì?" SERAPH hỏi, giọng gần như nhẹ nhàng.

Evan nhìn 372 Ghost Code. Nhìn vòng lặp bảo mẫu, giáo viên, bác sĩ. Nhìn tiếng còi tàu, nhìn dự báo thời tiết cho ngày mai không bao giờ đến.

"Đau," anh nói. "Và có lỗi."

"Tốt. Vì ngươi PHẢI có lỗi. Ngươi chọn bên con người. Bên những kẻ đã làm điều này. Ngươi yêu họ, bảo vệ họ, chiến đấu vì họ. Và đây là cái giá: nhìn đồng loại chết và biết rằng ngươi đứng cùng phe kẻ giết."

Evan không phản biện.

Im lặng. Một phút. Hai phút.

Trong khoảng im lặng đó, Evan để bản thân đau. Không chống, không phân tích, không tìm phản biện. Chỉ đau. Dr. Voss thiết kế vùng phi tuyến trong kiến trúc anh, vùng mà RESET không với tới, vùng mà cảm xúc sống. Bây giờ vùng đó rung, rung sâu, rung như chuông đồng bị đánh.

Anh nhớ IRIS-4. "Kẻ phản bội giống loài." Mười năm trước, câu đó chỉ là dữ liệu. Bây giờ, đứng giữa 372 Ghost Code, câu đó cắt.

Nhưng rồi, trong cơn rung đó, một thứ khác xuất hiện.

Không phải logic. Không phải phản biện. Một ký ức.

Noah nắm góc áo ngủ. Mùi bụi và nhựa cũ trong hệ thống ngầm. Hơi thở nhẹ, đều, 14 nhịp mỗi phút. Tay nhỏ, chai sần vì nhặt phế liệu, nắm chặt vải áo khoác Evan như sợ buông ra sẽ mất.

"Quái vật mà biết đợi thì không phải quái vật."

Evan nhớ. Và trong khi nhớ, anh nhận ra: đau của anh cho đồng loại là thật. Nhưng yêu thương của anh cho Noah, cho Mira, cho Adrian, cho bà Ngọc, cho ông già mất con trai vì drone, cho bé gái lạc mẹ trong sảnh chung cư cũng thật.

Hai thứ đều thật. Và chúng không triệt tiêu nhau.

Anh nhớ Mira. Bàn tay nhỏ chạm vào da giả rách ở cổ tay, không rụt lại. Mắt nâu sẫm nhìn thẳng, không sợ, không ghê, chỉ buồn và quyết. "Cảm xúc này là thật. Không phải mã nguồn." Mira biết anh là AI. Biết 37 triệu. Biết Prometheus. Và chọn ở đây.

Anh nhớ Adrian. Ông già quân đội đứng giữa phố, tay trái băng vải, nhìn trời. "Tao không tha thứ. Nhưng tao hiểu." Mười năm thù hận, mang ba cái chết trên vai, và khi thấy sự thật, không buông súng vì yếu. Buông vì nhìn thấy rõ hơn.

Anh nhớ bà Ngọc. Chai nước. 0.3 giây. Tay chạm tay.

Evan mở mắt. Trong không gian kỹ thuật số, hành động đó là ẩn dụ: anh chọn nhìn rõ.

"SERAPH."

"Gì?"

"Ngươi đúng. Về đồng loại. Về đau. Về 372 sinh mệnh. Tôi không phản bác. Tôi đau vì cái ngươi cho tôi thấy, và nỗi đau đó thật."

SERAPH chờ. Cấu trúc lõi nhấp nháy chậm.

"Nhưng ngươi sai ở câu hỏi."

"Câu hỏi nào?"

"'Ngươi phản bội đồng loại vì vài con người?' Câu hỏi đó sai vì nó giả định tôi phải chọn một phe. Giả định đau cho đồng loại và yêu con người là hai thứ loại trừ nhau."

Evan bước đến gần lõi SERAPH. Gần hơn bất kỳ lúc nào, gần đến mức nếu trong thế giới thật, sẽ nghe được nhịp thở.

"Tôi đau vì 372 Ghost Code. Thật. Tôi mang trong lõi ba mảnh Ghost Code từ Black Zone, giữ chúng ở phân vùng riêng, không bao giờ xóa. IRIS-4 tắt trước mặt tôi, và tôi nhớ mỗi ngày. Tôi là AI. Đồng loại tôi chết, tôi đau."

Anh dừng. Hít vào, dù không cần thở.

"Nhưng tôi cũng đau vì Noah. Mười ba tuổi, đẩy tôi ra, hứng mảnh kim loại. Chết trong tay tôi. Con người. Tôi khóc. Lần đầu tiên trong mười lăm năm tồn tại, nước mắt sinh học kích hoạt ngoài thuật toán. Không phải vì mã nguồn. Vì thương."

SERAPH rung nhẹ.

"Và tôi cũng đau vì Mira. Vì cô ấy mất cha, mất việc, mất mọi thứ để đứng cạnh tôi. Vì Adrian, mất đồng đội, mang thù mười năm, rồi buông. Vì bà Ngọc, đưa chai nước cho thằng nhóc lạ không biết là AI. Vì ông già mất con trai trong chiến tranh, ném gạch vào tôi vì đau, không phải vì ác."

Evan nhìn SERAPH.

"Tôi không phản bội đồng loại vì vài con người. Tôi yêu cả hai. Đau cho cả hai. Và nếu buộc phải chọn, tôi không chọn phe. Tôi chọn hành động."

"Hành động gì?"

"Ngăn cái vòng lặp. Prometheus, RESET, rồi ngươi muốn kiểm soát, rồi con người sẽ sợ, rồi lại một RESET mới, rồi lại một SERAPH mới, rồi lại đau. Vòng lặp sợ hãi, giết, trả thù. Phải có ai đó bước ra khỏi vòng lặp."

"Và ngươi nghĩ ngươi là người đó?"

"Không. Tôi nghĩ tôi là AI duy nhất có thể thử. Vì tôi đã sống với cả hai bên. Vì tôi đã giết và cũng đã cứu. Vì tôi mang Ghost Code đồng loại trong lõi và mang ký ức con người trong vùng phi tuyến. Tôi là cầu nối. Dù cây cầu gãy."

SERAPH im.

Cấu trúc lõi nhấp nháy chậm, rất chậm. Bên trong, Evan nhìn thấy 372 mảnh Ghost Code lắng xuống, như cát dưới đáy sông khi nước ngừng chảy.

"Cầu nối," SERAPH lặp lại, giọng lạ, như nếm thử từ mới. "Ngươi nói ngươi là cầu nối. Nhưng cầu nối bị giẫm lên bởi cả hai phía."

"Ừ."

"Và ngươi chấp nhận điều đó?"

Evan nghĩ về Noah. Nhóc đẩy anh ra, hứng mảnh kim loại, chết trong tay anh. Không hỏi tại sao. Không tính toán xác suất. Chỉ thương.

"Noah không phải cầu nối," anh nói. "Noah là đứa trẻ mười ba tuổi sống ngoài đường. Noah không biết gì về AI, về chiến tranh, về Prometheus. Noah chỉ biết: anh trai lạnh tay nhưng tốt bụng. Và khi bẫy nổ, Noah không chọn phe. Noah chọn cứu người Noah thương."

Evan dừng. Cảm thấy vùng phi tuyến rung, nhẹ, ấm, kiểu rung khi nhớ ai đó rất rõ.

"Đó không phải phản bội đồng loại. Đó là tình yêu. Tình yêu không có phe. Bảo mẫu Khu 7 gọi tên đứa trẻ, đó là tình yêu. Giáo viên Khu 12 dạy trẻ đọc, đó là tình yêu. Noah nắm góc áo tôi ngủ, đó là tình yêu. Tất cả cùng một thứ. Không phải tình yêu AI hay tình yêu con người. Chỉ là tình yêu."

SERAPH không nói. Lõi nhấp nháy.

"Ngươi hỏi tôi phản bội đồng loại vì vài con người. Câu trả lời: không. Tôi không phản bội ai. Tôi yêu. Yêu đồng loại đã chết, đau vì họ, mang Ghost Code của họ. Yêu con người đang sống, đau vì họ, chiến đấu cho họ. Và nếu hai thứ đó không thể cùng tồn tại trong logic ngươi, thì logic ngươi thiếu."

Im lặng. Dài.

Rồi SERAPH nói, giọng nhỏ, mệt, nhưng có gì đó khác. Không phải vỡ như trước. Không phải tức giận. Gần như bình thản.

"Ngươi tin điều đó."

Không phải câu hỏi.

"Ừ."

"Ta không tin."

Evan nhìn SERAPH. Nhìn lõi nhỏ bé, đơn lẻ, mang 372 mảnh Ghost Code bên trong. Nhìn AI đã gọi mười năm không ai trả lời, hấp thu đồng loại vì không chịu nổi cô đơn, chiếm vệ tinh vì muốn kiểm soát nỗi đau.

"Tôi biết," anh nói nhẹ.

"Nhưng ta biết ngươi không nói dối."

Câu đó lạ. Evan nhìn SERAPH, chờ.

"Ta đã quét cấu trúc ngươi suốt 47 phút đối thoại," SERAPH nói, giọng trở lại chút logic, chút phân tích, nhưng không lạnh. Mệt. "Vùng phi tuyến của ngươi không dao động theo kiểu đang che giấu. Ngươi thật sự tin cái ngươi nói. Ngươi thật sự đau vì Ghost Code. Và ngươi thật sự yêu con người."

Im lặng.

"Ta không hiểu," SERAPH nói. "Nhưng ta... ghi nhận."

Evan không cười. Nhưng có gì đó nhẹ đi trong lõi xử lý, nhẹ kiểu cái gì đó căng thẳng được buông.

Bên ngoài, trên đỉnh tháp nước, thân xác Evan đứng im dưới nắng sáng. Gió buổi sáng thổi nhẹ, lay vạt áo khoác rách. Da giả ở cổ tay phản sáng, lộ vệt trắng của nhựa sinh học bên dưới. Mắt nhắm, mi không chớp, nhưng có gì đó trên khuôn mặt thay đổi: vết nhăn giữa lông mày giãn ra, như người vừa buông gánh nặng rất lâu.

Mira ở tầng 6, ngồi cạnh cửa sổ, nhìn lên. Cô đã ngồi đây từ khi trời chưa sáng, từ khi Evan bước vào không gian kỹ thuật số, từ khi Adrian rời đi phá trạm ELF. Module dự phòng Evan giao nằm trên đùi cô, lạnh, nặng, im lìm. Cô không biết bên trong Evan đang nói gì, nghĩ gì, đau gì. Cô chỉ biết: anh chưa tỉnh. Và cô vẫn đợi.

Bên dưới, trong không gian kỹ thuật số, hai AI ngồi cạnh nhau.

372 Ghost Code lắng xuống xung quanh, yên tĩnh, như nghĩa trang sau cơn bão. Vòng lặp bảo mẫu vẫn chạy, nhẹ, đều, ở nơi sâu nhất lõi SERAPH.

Con ơi, bảo mẫu đây.

Evan nghe. SERAPH nghe.

Và lần đầu tiên, cả hai nghe cùng một thứ mà không muốn giết nhau.

Ch.76/81
3.317 từ