Nhà triết học Do Thái vĩ đại Hans Jonas đã quan sát thấy một sự cám dỗ dường như không thể cưỡng lại của con người là hiểu máy móc của chúng ta theo hình ảnh của các chức năng con người mà chúng thay thế, và sau đó hiểu các chức năng con người thay thế theo hình ảnh của các hiện vật thay thế chúng. Vào thế kỷ thứ mười tám, chính chiếc đồng hồ đã cung cấp hình ảnh bao quát về chính chúng ta và vũ trụ. Ngày nay, chính công nghệ thông tin và cái gọi là ” trí tuệ nhân tạo “, sản phẩm tích lũy của nhiều thế kỷ cách mạng khoa học và công nghệ liên tục, đã cung cấp tấm gương để chúng ta hiểu chính mình. 

Vòng luẩn quẩn này cho thấy, theo tôi, có lẽ là mối nguy hiểm sâu sắc và tinh vi nhất do AI gây ra, mà lời hứa và mối nguy hiểm của nó đối với y học và xã hội nói chung đã được ghi chép lại đầy đủ. Để minh họa cho mối nguy hiểm cụ thể mà tôi nghĩ đến, tôi muốn làm ngược lại từ một thí nghiệm tư duy nhỏ mà tôi vừa thực hiện gần đây. 

Trong nhiều năm, tôi đã suy nghĩ và viết về bản chất của công nghệ hiện đại và mối quan hệ giữa khoa học, triết học và thần học, mà tôi coi không chỉ là mối quan hệ thực nghiệm hay xã hội học mà là một sự cần thiết về mặt nhận thức và bản thể học tự phát triển trong suốt quá trình lịch sử trí tuệ. Về cơ bản, lập luận này là một lập luận triết học và thần học. Vì vậy, gần đây tôi đã yêu cầu OpenAI mô tả sự hiểu biết của tôi về mối quan hệ giữa khoa học hiện đại, triết học và thần học. Những gì nó trả lại cho tôi là báo chí, hời hợt và bóp méo (mặc dù tôi nhắc lại) ở chỗ nó đã biến đổi bản chất suy nghĩ của tôi từ một lập luận triết học ba chiều về chân lý của sự vật thành một mô tả thực nghiệm về các vấn đề thực tế hai chiều. Tuy nhiên, tôi có thể nhận ra chính mình trong đó. Nếu một học sinh đã nộp nó để thi – và có lẽ họ đã làm, theo như tôi biết – thì tôi sẽ cho nó điểm B, thậm chí có thể là B+ (nếu tôi đang ngồi ở sân sau vào một buổi tối mùa xuân ấm áp uống một cốc bia lạnh trong khi chấm điểm). Nhưng khi tôi hỏi OpenAI liệu lời kể của tôi có đúng không , nó không thể đi vào lập luận từ bên trong và đưa ra phán đoán triết học. Tất cả những gì nó có thể làm là đặt nó cạnh những “vấn đề thực tế” khác, được nhìn từ bên ngoài, và nói rằng “nó phụ thuộc phần lớn vào thế giới quan của một người”. Câu hỏi về sự thật này, về thực tế là gì và có nghĩa là gì chứ không chỉ cách nó xuất hiện từ quan điểm này hay quan điểm khác hoặc hoạt động trong những điều kiện này hay những điều kiện khác, là một câu hỏi triết học không thể giản lược và do đó là câu hỏi của con người ; thực vậy, chính khả năng đặt ra và khám phá câu trả lời cho câu hỏi này đã từng định nghĩa quan niệm truyền thống của phương Tây về lý trí và nhân loại mà sự ra đi của CS Lewis đã than khóc trong The Abolition of Man .

Vậy thì hãy xem xét xem thật kỳ lạ khi nghĩ về AI như một dạng trí thông minh. AI không thể nắm bắt được sự siêu việt hoặc đưa ra phán đoán có nguyên tắc về bản chất và ý nghĩa của mọi thứ. Nó không thể suy nghĩ, chứ đừng nói đến việc hiểu, những điều như vậy. Nó không chỉ không thể đặt ra câu hỏi về chân lý như một câu hỏi về chức năng hoặc sự thật, mà trên thực tế, nó còn xóa bỏ nó. Nói rằng chân lý “phụ thuộc phần lớn vào thế giới quan của một người” là nói rằng không có thứ gì như vậy. Vậy thì hãy nghĩ xem việc yêu cầu AI – cái gọi là “trí thông minh” không suy nghĩ, hiểu hoặc biết – “suy nghĩ” thay cho chúng ta còn kỳ lạ hơn thế nào. Điều đó giống như phát triển một ứng dụng để cầu nguyện thay cho chúng ta.  

Chúng ta hãy quay lại vòng luẩn quẩn của Jonas. Những gì chúng ta hiểu theo nghĩa “trí tuệ nhân tạo” không chỉ rơi xuống từ trên trời như một món quà mà các vị thần ban tặng cho chúng ta. Nó vừa là sự phản ánh vừa là sản phẩm của một quan niệm “nhân tạo” về trí thông minh hiện quyết định những gì chúng ta nghĩ về trí thông minh, tư duy và chân lý —một quan niệm, hóa ra, có nguồn gốc triết học lâu đời. Francis Bacon vào thế kỷ XVII đã coi kiến ​​thức là sức mạnh và chân lý là tiện ích, với thành công của chúng ta trong việc phân tích thiên nhiên thành các thành phần cấu thành và xác định, dự đoán hoặc thao túng các sự vật và quá trình tự nhiên. Thomas Hobbes, thư ký cũ của ông, có thể không phải là người đầu tiên, nhưng ông được cho là nhà tư tưởng hiện đại đầu tiên nổi bật nhất quan niệm lý trí chỉ đơn giản là tính toán. Cả hai quan niệm về lý trí và chân lý đều có đối trọng khách quan là quan niệm về thiên nhiên, bị tước đoạt ý nghĩa siêu việt và bị thu hẹp thành hoạt động cơ học và sinh học, trong đó các câu hỏi về ý nghĩa siêu việt — và do đó là các tiêu chuẩn hợp lý để hướng dẫn hành động của chúng ta — không có ý nghĩa gì. John Dewey và những người theo chủ nghĩa thực dụng của Mỹ đã phát triển thêm những quan niệm này. Lý trí về cơ bản là thực nghiệm, chân lý về cơ bản là thành công thực nghiệm, và bản chất về cơ bản là bất cứ điều gì xảy ra hoặc có thể xảy ra thông qua sức mạnh ngày càng tăng của khoa học phân tích. Và chính Karl Marx đã đưa ra bản tóm tắt có lẽ là ngắn gọn nhất và có thể nói là nổi tiếng nhất về quan điểm đang phát triển này trong luận đề thứ mười một của ông về Feuerbach: “Cho đến nay, các nhà triết học chỉ diễn giải thế giới theo nhiều cách khác nhau; vấn đề là thay đổi nó”. Tuy nhiên, nếu vấn đề không phải là hiểu thực tế mà là thay đổi nó, thì các ý tưởng không cần phải đúng hoặc thậm chí thực sự dễ hiểu; chúng chỉ cần có chức năng. Chúng chỉ cần có hiệu quả trong việc tạo ra kết quả mong muốn, mà cuối cùng không thể được biện minh bằng bất kỳ tiêu chí nào khác ngoài cường độ mà nó được mong muốn. Thật vậy, theo quan niệm chức năng này về các ý tưởng, đúng và sai theo nghĩa truyền thống của chúng đều không có ý nghĩa, bởi vì thế giới mà chúng ám chỉ không có ý nghĩa.

Trí tuệ nhân tạo do đó là hình ảnh hoàn hảo của quan niệm phổ biến của chúng ta về trí thông minh, một dạng lý trí mà hình thức và mục đích của nó không phải là chân lý mà là sức mạnh. AI thể hiện sức mạnh này vượt ra ngoài phạm vi con người. Nhiều nhà phê bình AI lo ngại rằng sức mạnh tính toán và “ra quyết định” của nó sẽ khiến con người trở nên thừa thãi hoặc lỗi thời và nó sẽ chống lại sự quản lý của con người, đặc biệt là khi dữ liệu lớn được chia sẻ và các thuật toán của nó khởi tạo các hành động giữa nhiều hệ thống giao diện. Khoa học và công nghệ đã xây dựng sẵn một sự khác biệt về mặt cấu trúc giữa sức mạnh hành động và khả năng suy nghĩ của chúng ta. Có nhiều lý do tại sao lại như vậy. Lý trí khoa học đo lường chân lý bằng thành công, bằng cách hiện thực hóa các khả năng thử nghiệm và kỹ thuật mà giới hạn của chúng chỉ có thể được khám phá bằng cách liên tục vượt qua chúng. Điều này làm cho khoa học và công nghệ về cơ bản và vô tận mang tính cách mạng, với các cuộc cách mạng kéo dài nhiều thế hệ: bởi vì chân lý khoa học luôn mang tính tạm thời, bởi vì việc sản xuất và thực hiện kiến ​​thức khoa học và sức mạnh công nghệ vốn có tính xã hội, và bởi vì công nghệ sở hữu tác nhân nhân quả riêng và lan truyền các hiệu ứng riêng của nó. Sức mạnh để làm như vậy của chúng ta không chỉ vượt quá sức mạnh suy nghĩ của chúng ta mà còn vượt quá khả năng kiểm soát của chúng ta . Sự gia tăng các phương tiện đi trước sự kết hợp của các mục đích để công nghệ trở thành mục tiêu thiết lập hơn là phục vụ mục tiêu, như Jonas đã nói. Thường chỉ sau khi một công nghệ nhất định đã được phát triển – sau khi chúng ta đã có được hoặc bị mắc kẹt trong một số hình thức quyền lực mới – thì chúng ta mới khám phá ra mục đích của nó .  

Tất cả những điều này có nghĩa là chúng ta biết cách làm những điều với chính mình, với nhau và với thế hệ sau mà chúng ta không biết cách suy nghĩ, và chúng ta nắm bắt, thực sự thay đổi không thể đảo ngược, những điều sâu sắc nhất trong thực tế—bao gồm cả ý nghĩa của bản chất của chính chúng ta—mà không cần suy nghĩ về chúng. Văn hóa khoa học và công nghệ không chỉ chứa đựng sự khác biệt về mặt cấu trúc này giữa khả năng hành động và khả năng suy nghĩ của chúng ta, mà còn xây dựng một sự ngăn cản đối với sự hiểu biết hoặc một sự thúc đẩy đối với sự thiếu suy nghĩ vào hình thức lý trí có thẩm quyền nhất của chúng ta. Một nền văn hóa khoa học và công nghệ được định sẵn sẽ trở thành thứ mà Augusto Del Noce gọi là bán văn hóa: một nền văn hóa mà chúng ta không biết mình đang làm gì vì chúng ta suy nghĩ và hành động mà không nhận thức được các tiền đề cơ bản của những ý tưởng của riêng mình. 

Nhưng chúng ta vẫn chưa đạt đến mối quan tâm sâu sắc hơn mà tôi đã đề cập ở phần đầu, ít liên quan đến ý tưởng thâm độc rằng máy móc sở hữu trí thông minh nhân tạo hơn là ý tưởng thâm độc hơn rằng trí thông minh là nhân tạo và cơ học, hoặc kỹ thuật số, tùy từng trường hợp. Đây là “mặt” khác của vòng luẩn quẩn của Jonas. Một triết gia Do Thái vĩ đại khác, Hannah Arendt, đã từng nói rằng vấn đề với khoa học hành vi mới không phải là nó sai mà là các điều kiện hiện đại – và sự điều kiện hóa hiện đại – là như vậy để nó có thể trở thành sự thật. Sự khác biệt về mặt cấu trúc giữa sức mạnh và kiến ​​thức của chúng ta đã có nghĩa là chúng ta không bao giờ thực sự biết mình đang làm gì. Nhưng điều gì sẽ xảy ra khi chúng ta thậm chí không biết những gì mình không biết? Điều gì sẽ xảy ra khi chúng ta hoàn toàn tuân theo trí thông minh của mình theo “trí thông minh” thuật toán vô tư, không hiểu biết của AI và chúng ta chuyển giao cho nó những dấu vết cuối cùng của trí thông minh từng định nghĩa nên nhân tính của chúng ta – trí nhớ, sự chú ý và khả năng phán đoán của chúng ta? Những câu hỏi về sự thật của bản chất con người, hay sự thật như vậy, đã không còn có ý nghĩa gì với chúng ta nữa. Điều gì sẽ xảy ra khi những câu hỏi như vậy không còn xuất hiện trong đầu chúng ta nữa? 

Plato đã thấy cách đây hơn hai thiên niên kỷ rằng các bác sĩ có kỹ năng chữa bệnh sẽ có kỹ năng tương đương trong việc sử dụng chất độc. Để các kỹ thuật y học lành mạnh và không gây tử vong đòi hỏi một kiến ​​thức vượt ra ngoài kỹ thuật. Leon Kass đã cảnh báo chúng ta trong nhiều thập kỷ về một cuộc khủng hoảng sắp xảy ra trong y học mà giờ đây dường như đang xảy ra với chúng ta—rằng nếu không có những quan niệm về sự toàn vẹn của con người và sức khỏe con người vượt ra ngoài những gì sinh học và y học có thể cung cấp, thì sức mạnh kỹ thuật tuyệt vời của y học có thể được khai thác cho bất kỳ mục đích nào và vì bất kỳ lý do gì. Hoạt động cân bằng nội môi hoặc tăng cường là không đủ để ngăn chặn điều này. CS Lewis, khi viết trong The Abolition of Man khi AI thậm chí còn chưa phải là khoa học viễn tưởng, đã thấy rằng nếu không có chân lý siêu việt về bản chất con người, thì cuối cùng sẽ không có lý do gì để hành động theo cách này thay vì cách khác ngoài cường độ cảm nhận được của mong muốn hành động của chúng ta. 

Hậu quả là thảm khốc đối với con người, đối với cả xã hội nói chung và y học. Khi sức mạnh công nghệ sinh học của y học tăng lên, các nguồn gốc nhân văn và tôn giáo mà y học phương Tây bắt nguồn và từng định nghĩa bản chất của nó đã bị lãng quên hoặc trong một số trường hợp, bị đàn áp một cách cưỡng bức. Y học đã trở thành hình mẫu cho lý trí khoa học và công nghệ của chúng ta, mục tiêu phấn đấu chung của chúng ta, nơi lưu giữ hy vọng cứu rỗi của chúng ta và thẩm quyền không thể nghi ngờ của chúng ta. Khi nói rằng sự chiến thắng của trí tuệ nhân tạo sẽ là thảm họa về mặt con người và y học, tôi không chỉ có ý nói rằng nó sẽ tệ cho cả hai, như thể xã hội và y học là hai hệ thống khép kín tình cờ nằm ​​cạnh nhau. Thay vào đó, tôi muốn nói rằng trong chế độ trí tuệ nhân tạo, y học sẽ là một trong những phương tiện chính mà những hậu quả thảm khốc về mặt xã hội này sẽ thành hiện thực. Nói một cách tổng quát, chúng ta có thể gợi ý bốn cách hoặc lĩnh vực mà điều này có thể xảy ra. Mỗi cách trong số này đều đáng được xem xét sâu sắc hơn nhiều so với những gì tôi có thể cung cấp ở đây. 

Trước tiên, chúng ta đã nói rằng lý trí khoa học và công nghệ đo lường “sự thật” của các ý tưởng của chúng ta bằng chức năng của chúng, bằng việc chúng có hoạt động hay không , và do đó tạo ra sự khác biệt giữa sức mạnh và kiến ​​thức của chúng ta. Kết quả của một nền văn hóa công nghệ dựa trên và được tổ chức xung quanh việc theo đuổi tiến bộ kỹ thuật vô tận là một nền văn hóa bán phần, nơi không thể hiểu được ý nghĩa của chính hành động của chúng ta. Nhưng nếu truyền thống tư tưởng phương Tây là đúng khi cho rằng trí tuệ được bản chất sắp xếp theo hướng tồn tại và sự thật, thì những câu hỏi bị kìm nén về sự thật và ý nghĩa của mọi thứ là (về mặt bản thể học) không thể tránh khỏi, điều đó có nghĩa là chúng ta luôn trả lời những câu hỏi như vậy trong thực tế mà không suy nghĩ sâu sắc hoặc thậm chí trung thực về chúng. Đây là những điều kiện mà y học có thể bị nhiễm ý thức hệ – chính trị, tương lai, khoa học hoặc không tưởng – trong đó có rất nhiều ví dụ lịch sử trong thế kỷ qua. (Thuyết ưu sinh, vốn chưa bao giờ thực sự biến mất mà chỉ đổi tên để bảo vệ những kẻ có tội, là sự đồng thuận khoa học từ một thế kỷ trước.) Trên thực tế, người ta có thể nói rằng lý trí khoa học và công nghệ, nếu để tự nhiên, về bản chất là ý thức hệ theo nghĩa cổ điển mà Marx đã truyền đạt cho chúng ta. Một ý thức hệ về cơ bản là một hình thức tư duy mang tính công cụ, bản chất và chức năng thực sự của nó khác với những gì chúng xuất hiện và tự tuyên bố. Ý thức hệ theo nghĩa này về bản chất là lừa dối và thường lừa dối nhất đối với những người trung thành nhất. 

Thứ hai, trong một xã hội mà lý do tồn tại tập thể là sự theo đuổi vô tận của tiến bộ khoa học và công nghệ, y học sở hữu một loại thẩm quyền đặc biệt. Nó vừa là hình mẫu cao nhất của hình thức “lý trí” duy nhất được công nhận công khai của chúng ta vừa là mục tiêu và sự biện minh cho nỗ lực chung của chúng ta. Nhưng thẩm quyền nhất thiết có nghĩa là thẩm quyền chính trị . Leon Kass từ lâu đã cảnh báo chúng ta về việc y tế hóa mọi hiện tượng của con người. Dưới danh nghĩa “sức khỏe cộng đồng”, chúng ta đã chứng kiến ​​sự kết hợp hoàn hảo hơn bao giờ hết giữa y học, công nghệ sinh học và quyền lực nhà nước mà đôi khi tôi gọi là chế độ công nghệ sinh học. Đây là lý do tại sao các bác sĩ nhi khoa hiện thường xuyên hỏi trẻ vị thành niên những câu hỏi từ bản dạng giới tính của chúng cho đến việc nhà có súng hay không. Những trường hợp như vậy chứng tỏ một quan niệm mở rộng về mối quan tâm y tế và chúng sẽ trở nên phổ biến hơn, xâm lấn hơn và toàn diện hơn khi y học kết hợp sâu hơn với khả năng giám sát của dữ liệu lớn và sức mạnh của AI. Y học có tổ chức ngày càng trở thành một trong những công cụ chính mà thông qua đó chủ quyền vô trung tâm của chế độ công nghệ sinh học được truyền bá và tầm nhìn giản lược của nó về bản chất con người được thực thi. Chúng ta đã thấy trong thời kỳ COVID, tiếng kêu gào ngày càng lớn về việc “để khoa học thống trị chúng ta”, và mọi người ở mọi phe phái chính trị của chúng ta đều coi khoa học là đồng minh của họ, bởi vì thẩm quyền của khoa học là một công cụ hoàn hảo để rửa tiền và che giấu những phán đoán chính trị không thể giảm thiểu, cho phép họ thực hiện quyền lực chính trị trong khi miễn trừ trách nhiệm chính trị cho họ. Và tất nhiên, điều này chỉ làm tăng khả năng y học bị chiếm đoạt về mặt ý thức hệ. 

Thể loại thứ ba và cũng là thể loại cuối cùng mà tôi quan tâm ít mang tính xã hội và chính trị trực tiếp hơn—mặc dù chúng không phải là không có ý nghĩa xã hội và chính trị lớn—và mang tính nội tại hơn đối với chính hoạt động y tế. Mối quan tâm đầu tiên là sự teo tóp của phán đoán y khoa khi quyền lực và trách nhiệm được chuyển giao cho quá trình ra quyết định theo thuật toán của AI. Chúng ta đã phát hiện ra rằng chỉ sau một thế hệ sống kỹ thuật số, khả năng nói, chú ý và trí nhớ của chúng ta đã suy giảm đáng báo động. Làm thế nào để ngăn chặn sự suy giảm tương tự về kiến ​​thức y khoa và phán đoán y khoa khi quyền lực đó được giao phó cho AI? Và cuối cùng, khi lý trí của chúng ta tuân theo hình ảnh của AI và chúng ta bị tước đi mọi cảm giác dễ hiểu về bản chất siêu việt, thì điều gì sẽ ngăn cản chúng ta coi chủ đề y khoa—bệnh nhân là con người—chỉ là một thuật toán phức tạp, một định nghĩa về bản chất con người đã được Yuval Noah Harari đưa ra trong cuốn sách bán chạy nhất của ông là Homo Deus . Điều này có vẻ không phải là một sự cường điệu. COVID đã cho chúng ta thấy việc coi những con người khác chỉ là vật trung gian truyền bệnh dễ dàng như thế nào. Để diễn giải lại CS Lewis một lần nữa, hoặc con người là một tinh thần lý trí nhập thể chịu sự chi phối của một quy luật tự nhiên, lý trí và đạo đức vượt qua anh ta, hoặc anh ta chỉ là một cơ chế phức tạp để bị thúc đẩy, kéo ra và tác động vì bất kỳ lý do nào mà sự phi lý của chúng ta có thể tưởng tượng ra, trong trường hợp đó chúng ta chỉ có thể hy vọng rằng những người thúc đẩy chúng ta tình cờ là những người tốt bụng. Không có lựa chọn thứ ba.

Chúng ta đã đi đến điểm trong cuộc trò chuyện—có lẽ rất gần với điểm tuyệt vọng—nơi mà sinh viên của tôi thường giơ tay đầu hàng và hỏi, “Vậy thì, chúng ta phải làm gì?” Tôi e rằng tôi không có câu trả lời nào thực sự thỏa đáng, đặc biệt là nếu “sự hài lòng” được đánh giá theo cùng tiêu chí “thay đổi hiệu quả” định nghĩa “sự thật” trong lý trí thực dụng của chúng ta. Sự khác biệt về mặt cấu trúc giữa quyền lực, kiến ​​thức và khả năng kiểm soát của chúng ta có nghĩa là các hệ thống công nghệ như trí tuệ nhân tạo có xu hướng tự tồn tại, giống như một sinh vật nhân tạo. Ở cấp độ y học như một hệ thống công nghệ sinh học, con thú được nuôi dưỡng rất tốt—và được cung cấp vốn tốt—đến nỗi tôi nghi ngờ rằng chúng ta đã vượt qua điểm không thể quay lại. Tất cả những gì tôi có thể đề xuất là chúng ta cố gắng đảo ngược câu châm ngôn của Marx và lo lắng ít hơn về việc thay đổi thế giới mới dũng cảm này và lo lắng nhiều hơn về việc hiểu và diễn giải nó với hy vọng rằng sự thiếu hiểu biết nhân tạo của chúng ta không trở nên bắt buộc, tự động và vô hình. Có lẽ điều này sẽ không quá kém hiệu quả vào cuối ngày, vì sự thật nằm ở tất cả những gì ngăn cách chúng ta và sự xóa bỏ loài người.