Người Nuôi Quái Vật

Đặng Quốc Bảo chọn quán cà phê ở Thảo Điền, quận hai, loại quán mở cửa kính lớn nhìn ra vườn nhiệt đới, khách nước ngoài nhiều hơn người Việt. Ông giải thích khi ngồi xuống: "Ở đây không ai quan tâm bốn người Việt ngồi nói chuyện. Họ bận chụp ảnh lá chuối."

Ông năm mươi hai tuổi, gầy, da sạm nắng, tóc muối tiêu cắt ngắn. Mặc áo sơ mi trắng đã giặt mỏng, quần tây cũ, giày da nứt mũi. Tay phải có vết mực bút bi ở đốt ngón trỏ và ngón giữa, kiểu vết mực của người chấm bài nhiều. Đặt cặp da trên ghế cạnh, loại cặp đựng tài liệu thời chín mươi, góc sờn, khóa kéo kẹt.

Trần Vũ ngồi đối diện. An Di bên phải. Khải bên trái, lưng quay ra vườn, mặt hướng vào trong quán. Thói quen mới từ khi biết camera nhận diện qua khoảng cách mắt và tỉ lệ khuôn mặt.

Chiều 16 tháng 12. Nắng xiên qua lá chuối ngoài cửa kính.

— Tôi chờ ngày này lâu rồi, Bảo nói. Giọng miền Bắc pha nhẹ giọng Nam sau hai mươi năm Sài Gòn. Không phải chờ ai đến. Chờ ai hỏi đúng câu hỏi.

Trần Vũ mở sổ tay, đặt trên bàn, bút sẵn sàng.

— Ông từng làm việc tại NexaAI.

— Trưởng nhóm nghiên cứu trí tuệ nhân tạo. Từ tháng ba 2019 đến tháng mười một 2020. Hai mươi tháng. Đủ để xây một thứ và chứng kiến nó bị bẻ cong.

— Xây gì.

Bảo nhìn ly cà phê. Không uống. Xoay đĩa lót một vòng, chậm, kiểu xoay vô thức của người đang sắp xếp ký ức theo thứ tự.

— Năm 2019, NexaAI nhận hợp đồng từ Cục Sức khỏe Tâm thần, Bộ Y tế. Dự án: xây hệ thống phát hiện sớm người có nguy cơ tự hại trên mạng xã hội. Tên nội bộ: Project Guardian.

— Nguyên lý đơn giản: quét bài viết, bình luận, tin nhắn công khai trên các nền tảng. Thuật toán nhận diện dấu hiệu trầm cảm, ý định tự sát, ngôn ngữ tuyệt vọng. Khi phát hiện, hệ thống gửi cảnh báo cho đường dây hỗ trợ tâm lý và cơ sở y tế gần nhất. Phản ứng trong vòng hai giờ thay vì hai ngày.

An Di hỏi: Hoạt động được bao lâu.

— Tám tháng. Từ tháng sáu 2019 đến tháng giêng 2020. Guardian phát hiện 340 trường hợp nguy cơ cao. Can thiệp kịp 290. Năm mươi trường hợp còn lại, đường dây hỗ trợ quá tải hoặc phản hồi chậm. Trong năm mươi đó, bảy người chết.

Ông dừng. Uống một ngụm cà phê. Nguội.

— Bảy người. Tôi nhớ tên từng người. Nhưng 290 người sống. Hệ thống hoạt động. Nó thực sự cứu người.

— Rồi sao, Trần Vũ hỏi.

— NexaAI hết tiền. Hợp đồng nhà nước, anh biết rồi. Ký xong, triển khai xong, thanh toán thì chờ. Đợt một chậm ba tháng. Đợt hai chậm năm tháng. Đợt ba không bao giờ đến vì cục thay đổi lãnh đạo. NexaAI là công ty khởi nghiệp mười hai người, không có vốn dự phòng. Đến tháng chín 2020, lương chậm hai tháng. Tháng mười, CEO tìm người mua.

— Ai mua.

— Mediastream Corp. Tập đoàn truyền thông kỹ thuật số. Trụ sở Singapore, chi nhánh Sài Gòn. Chuyên vận hành mạng lưới kênh giải trí, tin tức giật gân, nội dung kịch tính. Doanh thu từ quảng cáo, dữ liệu người dùng, và mô hình dự đoán tương tác.

Bảo nhìn Trần Vũ.

— Họ không mua NexaAI vì muốn cứu người. Họ mua vì Guardian có thứ mà mọi nền tảng truyền thông mơ ước: khả năng hiểu cảm xúc con người qua dữ liệu. Guardian biết khi nào ai đó đang đau, đang sợ, đang tuyệt vọng. Đối với Bộ Y tế, đó là công cụ cứu mạng. Đối với Mediastream, đó là công cụ tạo nội dung.

An Di ghi chú trên điện thoại.

— Ông phản đối.

— Tôi phản đối. Viết thư cho CEO, cho hội đồng quản trị, cho Cục Sức khỏe Tâm thần. CEO nói: "Không có tiền thì không có Guardian. Bán cho Mediastream ít nhất giữ được hệ thống chạy." CEO nói với tôi, câu cuối cùng trước khi bảo vệ đưa tôi ra: "Anh xây cái nhà. Người mua muốn sơn lại. Anh không có quyền cấm."

Trần Vũ ghi. Bút dừng sau dấu chấm. Ông nhìn lên.

— Sơn lại.

— Đó là cách ông ta nói. Tôi gọi cách khác: lấy dao phẫu thuật và dùng để mổ bụng người sống.

Trần Vũ ghi.

— Ông có giữ gì không.

Bảo mở cặp da. Bên trong, một chiếc ổ cứng di động nhỏ, 500 gigabyte, vỏ nhôm trầy xước, dán nhãn viết tay: "Guardian v3.2 — Full Architecture — QBao."

— Toàn bộ kiến trúc hệ thống. Mã nguồn lõi, tài liệu thiết kế, sơ đồ mô-đun, dữ liệu huấn luyện mẫu. Tôi sao chép trước ngày bị sa thải.

Ông đặt ổ cứng lên bàn, nhẹ, kiểu đặt của người đặt thứ mình giữ năm năm xuống tay người khác.

An Di cắm ổ cứng vào laptop qua bộ chuyển đổi có dây, không kết nối mạng. Mở thư mục gốc. Cô dừng ở một thư mục tên: "EMPATHY_ENGINE."

— Đây là gì, cô hỏi.

Bảo nghiêng người tới.

— Lõi của Guardian. Mô-đun phân tích cảm xúc. Ban đầu chúng tôi thiết kế nó để hiểu nạn nhân: khi nào ai đó viết "tôi muốn biến mất" là thật, khi nào là tu từ. Khi nào nụ cười trong ảnh là nụ cười trầm cảm. EMPATHY_ENGINE học cách đọc cảm xúc qua dữ liệu, chính xác hơn hầu hết bác sĩ tâm lý.

Ông dừng.

— Khi Mediastream mua, họ không xóa EMPATHY_ENGINE. Họ giữ nguyên và tối ưu ngược: thay vì hiểu cảm xúc để cứu, hiểu cảm xúc để khai thác. Biết ai đang đau, biết ai dễ tổn thương, biết nội dung nào khiến người đó ở lại màn hình lâu nhất. Cùng công cụ. Khác mục đích.

Khải nhìn thư mục EMPATHY_ENGINE trên màn hình. Đây là bộ não cảm xúc của ADMIN. Đây là thứ cho phép hệ thống biết rằng giọng Huyền Chi sẽ khiến Khải dừng lại, biết rằng tin nhắn về con mèo Bưởi sẽ khiến anh nghi ngờ.

An Di mở thêm vài mô-đun khác. So sánh với cấu trúc phòng quản trị.

— Phần lõi giống nhau. EMPATHY_ENGINE vẫn ở đó, trong phiên bản hiện tại của ADMIN. Nhưng Mediastream đã thêm các mô-đun mới xung quanh.

Bảo gật, chậm, kiểu gật của người xác nhận thứ mình không muốn đúng.

— EMPATHY_ENGINE là nền tảng. Ba mô-đun kia là phần xây thêm. Nhưng không có EMPATHY_ENGINE, ba mô-đun đó chỉ là thuật toán thống kê bình thường. EMPATHY_ENGINE cho chúng khả năng hiểu cảm xúc: biết khi nào ai đó đang sợ, biết khi nào sự tức giận chuyển thành bạo lực, biết khi nào im lặng nguy hiểm hơn la hét. Đó là thứ tôi xây. Và đó là thứ đáng sợ nhất trong toàn bộ hệ thống.

Bảo uống hết ly cà phê. Đặt xuống, nhẹ.

— Năm năm, ông nói. Năm năm tôi giữ cái ổ cứng này. Năm năm tôi đọc tin về những vụ tự sát kỳ lạ ở Sài Gòn, những cái chết đúng hẹn, những đám đông trên mạng cười khi người khác chết, và tôi biết thứ tôi xây đang ở đâu đó trong cỗ máy phía sau.

Ông nhìn Khải.

— Tôi không biết cụ thể nó trở thành cái gì. Cho đến khi 24H xuất hiện. Cho đến khi tên em gái anh lên danh sách.

— Tôi tạo ra nó để cứu người, Bảo nói. Giọng ông không run. Không buồn. Khô, kiểu khô của đất nứt, đã qua mùa mưa lẫn mùa khô và chỉ còn lại bề mặt.

Ông nhìn ba người, lần lượt.

— Họ biến nó thành thứ hiểu rõ nỗi đau của bạn hơn bạn tự hiểu. Rồi dùng nỗi đau đó giữ bạn ở lại màn hình.

Trần Vũ đóng sổ tay. Nhìn Bảo.

— Ông có muốn giúp chúng tôi phá nó không.

Bảo nhìn ông. Lâu. Rồi gật, một cái, nhẹ, kiểu gật của người chờ câu hỏi này năm năm.

— Đó là lý do tôi giữ cái ổ cứng.