Sự tồn tại của mỗi con người trên cuộc đời này là một hành trình tự khẳng định sự hiện hữu của chính mình. Từ khi sinh ra, con người luôn khao khát được gọi tên như một vị thế độc bản, mỗi người mỗi người đều được trao gởi một danh xưng thân thương; đó không chỉ là tên gọi, mà còn là kết tinh của những ước muốn, hy vọng và ý nghĩa sâu xa phía sau. Nhưng khi xã hội dần phát triển và số hóa, người ta dần bắt đầu gán cho nhau một mã số để kiểm soát. Ban đầu chỉ là để “quản lý cho tiện”. Rồi dần dần, con người không còn được gọi bằng tên – mà bằng ID hay điểm số. Điểm cao thì được ưu tiên. Điểm thấp thì bị nghi ngờ, bị hạn chế, bị gạt ra bên lề. Và thế là, trong âm thầm, phẩm giá con người bị thu nhỏ thành một chỉ số. Không còn là “ai đó”, mà là “bao nhiêu điểm”.
Thật ra, khi khoa học và công nghệ phát triển, việc số hoá cũng là một việc cần thiết và hữu ích. Công nghệ có thể phục vụ y tế, giáo dục, giao thông, quản trị. Nhưng từ giây phút con người bị đánh giá như một hồ sơ hành vi, xã hội đã bắt đầu đặt chân vào ranh giới nguy hiểm: bởi số hóa chuyển từ phục vụ con người sang đo lường con người. Hãy tưởng tượng rằng tất cả chúng ta đều được quản lý bằng một mã số, hoặc bằng một hệ thống chấm điểm nào đó, thì tất cả chúng ta sẽ bị biến thành đối tượng chịu sự chi phối của hệ thống. Những cỗ máy chấm điểm ấy sẽ chẳng bao giờ xét đến bối cảnh hay luân lý nào cả, tất nhiên nó cũng chẳng bao giờ quan tâm rằng: “Người này có đang cần được cảm thông không?” Nó chỉ hỏi: “Người này đạt chuẩn hay không?” Và khi con người chỉ còn là chuẩn – lệch chuẩn; chấp nhận – bị loại trừ, từ đó nhân tính lụi tàn trong một trật tự hoàn hảo đến vô hồn.
Thế nên, một khi xã hội hiện đại ngày càng đặt niềm tin vào dữ liệu và thuật toán để đo lường mọi khía cạnh cuộc sống, từ sức khỏe, giáo dục đến giao thông hay quản trị. Dù quá trình số hóa có thể mang lại nhiều tiện ích, nó cũng dễ dàng biến con người thành “điểm dữ liệu” thuần túy. Đứng trước xu thế này, giới quan sát quốc tế đã đưa ra những cảnh báo đầy sức nặng về một tương lai nơi nhân phẩm bị đánh tráo bởi các thuật toán. Theo chuyên gia Dirk Helbing (ETH Zurich), chúng ta đang dấn thân vào kỷ nguyên của ‘Big Nudging’ (Cú hích lớn) – một giai đoạn mà công nghệ không chỉ dừng lại ở việc quan sát, mà còn âm thầm thao túng và định hình hành vi con người theo những khuôn mẫu có sẵn. Khi một cá nhân bị giản lược thành một mã số để ‘tiện quản lý’, họ vô tình bị tước đoạt sự phức tạp của thế giới nội tâm để trở thành một ‘vật thể dữ liệu’ trong hệ điều hành xã hội. Hệ quả là trong một xã hội chỉ chăm chăm số hóa con người, “Con người ngày càng bị đối xử như rô-bốt, đồ vật hoặc dữ liệu, trong khi phẩm giá, tình yêu và sáng tạo… bị bỏ qua”. Điều này cho thấy, nếu con người chỉ còn là các mã số hay thứ dữ liệu được đo lường thì những giá trị tinh thần quan trọng sẽ bị thui chột: thế giới ảo tối ưu trên các con số kia “nhanh chóng có thể trở nên thiếu nhân tính và loạn lạc”.
Khi xã hội chỉ nhìn dữ liệu, quên con người
Sự phát triển của khoa học dữ liệu (Data Science) vốn mang mục đích thiện chí: tối ưu hóa nguồn lực và phục vụ cộng đồng. Tuy nhiên, khi các hệ thống quản trị vượt quá ranh giới chức năng để tiến vào địa hạt đánh giá giá trị con người, nó đã tạo ra một nghịch lý. Số hóa ban đầu phục vụ con người, nhưng một khi chính chúng ta tin vào “điểm số” làm thước đo giá trị, nguy cơ con người bị biến thành bản sao của dữ liệu rất lớn. Nhiều hệ thống ngày nay cho phép theo dõi và ghi nhận hành vi cá nhân, rồi đánh giá con người dựa vào những tiêu chí máy móc. Trên thực tế, đã có nhiều báo cáo từng miêu tả hệ thống tín dụng xã hội của Trung Quốc như một thước đo “điểm tín nhiệm” cá nhân, trong đó người có điểm thấp sẽ bị trừng phạt và người điểm cao được thưởng. Chính tuyên bố này – dù có phần phóng đại – nhưng phản ánh mối lo ngại rằng con người đang bị quy thành những chỉ số vô cảm. Thậm chí UNESCO đã khuyến cáo rằng “không nên sử dụng hệ thống AI cho việc chấm điểm xã hội hay giám sát hàng loạt”, và nhấn mạnh rằng bất kỳ sự đánh giá máy móc nào cũng không thể thay thế cái nhìn nhân bản. Một khi xã hội chỉ còn nhìn thấy con số hay “hồ sơ hành vi” mà quên mất tên gọi và câu chuyện thực của mỗi người, phẩm giá con người sẽ dần bị lụi tàn.
Cùng với đó, khoa học xã hội hiện đại cảnh báo về hiện tượng “Dữ liệu hóa” (Datafication). Khi xã hội tin rằng mọi thứ đều có thể đo lường, thì những giá trị không thể đo lường được (như sự hy sinh, lòng trắc ẩn, sự sám hối) sẽ bị coi là không tồn tại hoặc không có giá trị.
Thông điệp Caritas in Veritate, Đức Giáo hoàng Bênêđictô XVI đã nhấn mạnh: “Nếu không có tình thương và sự thật, tiến bộ kỹ thuật sẽ chỉ dẫn đến sự thống trị của sức mạnh thuần túy.” Việc dùng điểm số để xếp hạng con người chính là biểu hiện của một “Chủ nghĩa công cụ” (Instrumentalism) cực đoan, nơi con người chỉ là phương tiện cho sự vận hành trơn tru của hệ thống.
Đạo đức bị thay thế bằng thuật toán
Hệ thống chấm điểm xã hội (Social Credit System) – tiêu biểu là mô hình đang được triển khai tại một số quốc gia – tạo ra một cơ chế “thưởng – phạt” tức thời. Nhìn bề ngoài, nó tạo ra một xã hội trật tự. Nhưng dưới lăng kính đạo đức học, đây là một sự suy thoái về nhân cách.
- Hành vi vì điểm số: Con người làm điều tốt không phải vì tiếng gọi của lương tâm (Conscience), mà vì nỗi sợ bị trừ điểm hoặc lòng tham được ưu tiên.
- Sự biến mất của tự do: Khi mọi hành động đều bị giám sát và chấm điểm, quyền được sai lầm và quyền được hoán cải bị triệt tiêu bởi tiêu chuẩn số.
Hãy nhìn vào một xã hội theo “điểm số”, con người dễ bị đánh giá hay hành xử dựa trên phần thưởng – trừng phạt thuật toán, thay vì giá trị đạo đức. Khi đó, động cơ làm điều tốt không còn là do lương tâm; con người làm mọi thứ để kiếm “điểm cao” hoặc tránh bị “trừ điểm”. Sự trung thực mang lại lợi ích gì khi thành thật không mang lại lợi thế, không dám bảo vệ kẻ yếu nếu hệ thống không ghi nhận điều ấy. Suy cho cùng, mọi tiến bộ công nghệ đều phải hướng đến lợi ích chung của nhân loại. Giáo hội Công giáo cũng nhắc chúng ta rằng công nghệ chỉ được sử dụng nếu phục vụ “tôn trọng phẩm giá con người và đưa nhân loại gần với Thiên Chúa”. Theo Giáo hội, mọi phát minh kỹ thuật, kể cả trí tuệ nhân tạo, phải “phát triển và sử dụng một cách có trách nhiệm và công bằng” nhằm phục vụ lợi ích chung. Nếu cứ theo thang đo máy móc, đạo đức sẽ chỉ còn là trò diễn phục vụ hiệu quả, còn tâm hồn và tự do lựa chọn sự thiện bị đe dọa.
Người yếu thế luôn là nạn nhân đầu tiên
Trong một hệ thống chấm điểm con người, ai sẽ là đối tượng bị tổn thương nhất? Kinh nghiệm cho thấy những nhóm yếu thế – người nghèo, người khuyết tật, người lớn tuổi, người ít học, người từng thất bại hay chịu thiệt thòi – sẽ khó có cơ hội đạt “tiêu chuẩn” theo điểm số. Khi môi trường số chi phối, họ dễ bị coi là ngoại biên. Amnesty International chỉ ra rằng ở Anh hiện nay, hàng triệu người “không có điều kiện tiếp cận công nghệ số” – người khuyết tật, người nghèo, người có vấn đề sức khỏe – đang bị bỏ lại phía sau, lâm vào cảnh “giữa hệ thống thủ tục và thực tế”. Trong thực tế, hệ thống phúc lợi tự động chỉ xét coi yêu cầu của họ có “vừa khuôn” hay không, thay vì nhìn nhận hoàn cảnh đau khổ hay nhu cầu thực. Các thuật toán này đã “hạ thấp con người cần được giúp đỡ thành các điểm dữ liệu”, ưu tiên những người phù hợp khung mẫu. Không chỉ vậy, một sai lầm nhỏ trong hồ sơ – như chậm nộp giấy tờ hay vi phạm vặt – có thể đeo bám suốt đời với hậu quả khó thay đổi. Họ gần như bị “ghi sẹo dữ liệu” không được tha thứ hay cho cơ hội thứ hai, chỉ vì điểm số của mình không vừa ý hệ thống.
Máy tính có thể biết bạn đi quá tốc độ, nhưng nó không biết bạn đang vội đưa người thân đi cấp cứu. Nó có thể biết bạn nợ lương, nhưng không biết bạn vừa bị lừa gạt hết tài sản. Việc áp dụng các tiêu chuẩn cơ giới hóa vào đạo đức sẽ dẫn đến một “sự công bằng mù quáng” – thứ thực chất là một hình thức bất công tinh vi.
Tại Anh, các hệ thống phúc lợi tự động đã từng bị chỉ trích vì cắt giảm hỗ trợ người nghèo chỉ dựa trên những thuật toán khô khan mà không xem xét thực tế đau khổ của gia đình họ. Điều này minh chứng cho lời của Đức Phanxicô trong Thông điệp Fratelli Tutti: “Chúng ta đang sống trong một nền văn hóa vứt bỏ, nơi những gì không mang lại hiệu quả kinh tế hoặc điểm số tích cực đều bị loại trừ.”
Con người: ảnh Thiên Chúa hay hồ sơ dữ liệu?
Đứng ở góc độ nhân bản và tôn giáo, mỗi con người không phải là một sản phẩm có thể đo đếm giá trị. Theo nhân học Kitô giáo, mọi người – dù là đứa trẻ khuyết tật, người già khó lòng hay kẻ tội phạm – đều mang hình ảnh Thiên Chúa và có phẩm giá vốn có, không phụ thuộc vào mức độ hữu dụng. Giá trị của một con người không đến từ điểm số hay đóng góp xã hội. Điều này nhấn mạnh rằng công nghệ phải được sử dụng theo cách luôn tôn trọng phẩm giá con người, chứ không phải đặt những thành tựu kỹ thuật lên trên con người. Khi hệ thống số hóa bắt đầu phân loại người theo mức độ “đạt chuẩn”, thì nhân phẩm sẽ bị thay thế bởi chủ nghĩa công cụ trá hình. Con người dần mất đi quyền được là chính mình – quyền được sống theo lương tâm, được yêu thương vô điều kiện – và chỉ còn là những kẻ kiểm duyệt hành vi theo điểm số.
Một trong những điểm tàn khốc nhất của hệ thống chấm điểm là tính “vĩnh viễn” của dữ liệu. Trong khi Kitô giáo đề cao sự sám hối và đổi mới (Metanoia), thì thuật toán lại ghi nhớ mọi sai lầm. Một lỗi lầm thời trẻ có thể trở thành cái bóng đeo bám một người suốt đời trong hồ sơ số. Đây là sự phủ nhận bản chất năng động và khả năng thay đổi của con người.
Nguy cơ lớn: con người tự chấp nhận bị đo lường
Điều đáng sợ nhất là khi chính con người nội tâm hóa các quy tắc của hệ thống chấm điểm. Không cần đến một chế độ độc tài công khai, chỉ cần những thuật toán đủ tinh vi, con người sẽ “tự kiểm duyệt” hành vi của chính mình. Các phương thức tác động vi mô (big nudging) tinh vi do các công ty công nghệ khổng lồ thực hiện có thể vô hình mà thấm dần vào ý thức chúng ta. Mạng lưới quan sát liên tục khiến nhiều người tin rằng mình luôn bị đo đếm, điểm số ghi vào hồ sơ rồi quyết định giá trị bản thân. Họ dần tự đặt ra câu hỏi: “Tôi có bao nhiêu điểm? Tôi có nằm trong danh sách ưu tiên hay không?” Chính nguy cơ tâm lý này làm thay đổi nhân cách một cách thầm lặng: con người trở nên e dè sáng tạo, sợ bị điểm xấu và chỉ dám ‘diễn tốt’ trước hệ thống. Chúng ta cần lưu ý rằng AI dù tinh vi đến đâu cũng không thể cho phép nó xếp hạng con người. Nói cách khác, nếu chúng ta chấp nhận bị coi là những điểm dữ liệu, thì tự do và nhân bản sẽ mất đi từ bên trong.
Giả sử nếu 300 điểm là “chuẩn tích cực”, thì những người dưới mức đó sẽ mặc nhiên cảm thấy bị kỳ thị hoặc mất đi các cơ hội ngầm định. Đây là quá trình “Nội tâm hóa sự kiểm soát”. Con người không còn cần một cảnh sát đứng cạnh; họ tự biến mình thành cảnh sát của chính mình để làm hài lòng hệ thống. Vì thế, một xã hội chỉ mưu cầu “đạt chuẩn” sẽ là một xã hội chết chóc về mặt tư tưởng. Sự sáng tạo đòi hỏi sự bứt phá khỏi các khuôn mẫu hiện có. Nếu mọi hành vi “lệch chuẩn” đều bị trừ điểm, con người sẽ chọn lối sống an toàn, tẻ nhạt và rập khuôn. Nhân loại sẽ mất đi những thiên tài – vốn thường là những người không bao giờ vừa vặn với bất kỳ khuôn mẫu xã hội nào.
Lời cảnh tỉnh cho thời đại
Mọi biện pháp số hóa cuối cùng không thể đo đếm được những điều vô hình: lương tâm, tình yêu thương, lòng vị tha, khả năng hoán cải và giá trị vô cùng của một linh hồn. Khi con người chỉ còn là một tài khoản, hột con số hay “điểm tín nhiệm”, thì xã hội vừa tăng hiệu quả, nhưng nhân tính cũng khô cằn dần. Nhiều nơi trên thế giới đang thử nghiệm hoặc đề xuất hệ thống chấm điểm công dân. Chẳng hạn, công dân tích cực sẽ có xếp hạng cao, còn điểm thấp chỉ để khuyến khích chứ không dùng để trừng phạt. Những quy định ấy thể hiện niềm tin rằng công nghệ vẫn phải phục vụ con người và khuyến khích lẫn nhau. Tuy nhiên, câu hỏi lớn đặt ra là liệu trong thực tế những con số kia có vô tình trở thành tiêu chuẩn khắc nghiệt cho nhân phẩm? Lịch sử đã nhiều lần chứng minh: mọi xã hội bắt đầu bằng phân loại thường kết thúc bằng việc loại trừ.
Kết luận
Không có phép tính hay thuật toán nào đủ tinh vi để cân đo những giá trị cao cả làm nên con người. Xã hội văn minh không nên được xây trên kiểm soát hành vi thuần túy, mà phải dựa trên tôn trọng phẩm giá. Chúng ta phải luôn được nhắc nhớ rằng mọi tiến bộ khoa học kỹ thuật cần hướng đến lợi ích chung của nhân loại, kèm theo trách nhiệm và tình người. Chỉ khi nào xã hội giữ vững quan niệm rằng “phẩm giá vốn có của mỗi con người là tiêu chí hàng đầu”, thì dù công nghệ có phát triển cỡ nào, nhân loại cũng không bị mất linh hồn. Con người cần nhớ rằng “trật tự xã hội và sự phát triển của nó phải luôn vì lợi ích thăng tiến của con người”. Nếu một ngày nào đó con người đánh giá lẫn nhau bằng con số hay thước đo số học, thì dù máy móc hiện đại đến đâu, nhân loại cũng tự thụt lùi vào bóng tối. Các chuẩn mực đạo đức và luân lý, chứ không phải thuật toán, phải là nền tảng của cộng đồng – để mỗi con người, kể cả yếu nhất, luôn được sống xứng đáng và được yêu thương.
Tham khảo thêm:
- Đức Phanxicô (2024): Thông điệp cho Ngày Thế giới Hòa bình lần thứ 57: Trí tuệ Nhân tạo và Hòa bình.
- Đức Phanxicô (2020): Thông điệp Fratelli Tutti (Về tình huynh đệ và tình thân hữu xã hội).
- Hội đồng Giám mục Việt Nam: Các hướng dẫn về mục vụ trong môi trường kỹ thuật số.
- Vatican (2020): Rome Call for AI Ethics (Lời kêu gọi Rome về Đạo đức AI) – ký kết bởi Tòa Thánh, Microsoft và IBM
- UNESCO (2021): Recommendation on the Ethics of Artificial Intelligence. (Tài liệu chuẩn mực toàn cầu về cấm chấm điểm xã hội)
- Dirk Helbing (2017): Will Democracy Survive Big Data and Artificial Intelligence? – Scientific American.
- Shoshana Zuboff (2019): The Age of Surveillance Capitalism (Thời đại của Chủ nghĩa Tư bản Giám sát) – Công trình kinh điển về việc dữ liệu hóa con người.
- Amnesty International: Báo cáo về Quyền con người trong kỷ nguyên kỹ thuật số và tác động của AI đến nhóm yếu thế
