Tổng quan về luận án

Luận án tiến sĩ này tiến hành một cuộc điều tra phê phán sâu sắc vào giao điểm phức tạp của triết học công nghệ, đạo đức học máy và hiện tượng học kỹ thuật số, tập trung vào sự tái cấu trúc của chủ thể và trách nhiệm trong kỷ nguyên thuật toán. Bối cảnh khoa học hiện tại đang bị chi phối bởi sự bùng nổ của trí tuệ nhân tạo (AI) và các hệ thống thuật toán, đặt ra những thách thức cơ bản đối với các quan niệm truyền thống về chủ thể cá nhân, ý định đạo đức và trách nhiệm xã hội. Nghiên cứu này tiên phong trong việc cung cấp một khung phân tích toàn diện để hiểu cách các thuật toán không chỉ định hình hành vi con người mà còn đồng cấu thành các cấu trúc chủ thể và đạo đức.

Research gap cụ thể mà luận án này giải quyết nằm ở sự thiếu hụt nghiêm trọng một cách tiếp cận triết học tích hợp, có hệ thống để khám phá sự tương tác qua lại giữa kinh nghiệm sống của con người, các thiết kế thuật toán và các hệ thống giá trị đạo đức đang nổi lên. Trong khi các nghiên cứu hiện có đã khám phá các khía cạnh riêng lẻ của đạo đức AI (Floridi, 2013; Bostrom, 2014) hoặc triết học công nghệ (Heidegger, 1977; Ihde, 2012), rất ít công trình tích hợp một cách nghiêm ngặt hiện tượng học về cơ thể sống và kinh nghiệm chủ quan vào các mô hình đạo đức máy học và sự phân chia trách nhiệm. Luận án này khẳng định rằng, "các khuôn khổ đạo đức máy móc hiện tại thường bỏ qua sự phức tạp của chủ thể nhúng và phân tán, điều này rất quan trọng để hiểu đầy đủ các tác động đạo đức của AI" (Trịnh Thanh Mai, 2017, tr. 45).

Các câu hỏi nghiên cứu của luận án bao gồm:

  1. Chủ thể con người được cấu trúc lại và cảm nhận như thế nào trong bối cảnh tương tác liên tục với các hệ thống thuật toán tự trị?
  2. Làm thế nào để các khái niệm truyền thống về ý định, trách nhiệm và tội lỗi cần được đánh giá lại để phù hợp với bản chất phân tán của tác nhân trong các hệ thống người-thuật toán?
  3. Một khung đạo đức học máy nào, được thông báo bởi hiện tượng học kỹ thuật số và đạo đức hành vi, có thể cung cấp một con đường khả thi để phát triển AI có đạo đức và thiết kế công nghệ có trách nhiệm?
  4. Những cơ chế nào có thể được thiết lập để chống lại sự tha hóa thuật toán và phục hồi quyền tự chủ thực tiễn của con người trong các không gian kỹ thuật số?

Giả thuyết chính (H1) của luận án là sự tương tác liên tục với các hệ thống thuật toán làm xói mòn khả năng suy luận thực tiễn và tác nhân có tình huống của con người, dẫn đến sự tha hóa và khuếch tán trách nhiệm đạo đức. Giả thuyết thứ cấp (H2) là một khung đạo đức tích hợp, dựa trên hiện tượng học và đạo đức hành vi, có thể cung cấp một phương pháp mạnh mẽ hơn để điều hướng các thách thức đạo đức của AI so với các cách tiếp cận tuân thủ quy tắc thuần túy.

Khung lý thuyết của luận án được xây dựng dựa trên nền tảng của Hiện tượng học về cơ thể sống của Maurice Merleau-Ponty (1945), Lý thuyết hành động truyền thông của Jürgen Habermas (1981), và Đạo đức hành vi của Aristotle, được mở rộng để bao gồm các khái niệm hậu nhân bản từ Donna Haraway (1991) và lý thuyết mạng lưới chủ thể của Bruno Latour (2005). Luận án này lập luận cho một sự hiểu biết liên chủ thể và phân tán về tác nhân và trách nhiệm, vượt ra ngoài chủ nghĩa nhân học và chủ nghĩa duy kỹ thuật.

Đóng góp đột phá của nghiên cứu này là việc phát triển "Khung đạo đức thuật toán theo tình huống (SAE Framework)" – một mô hình đạo đức kết hợp những hiểu biết sâu sắc từ hiện tượng học phê phán và đạo đức hành vi để cung cấp một khuôn khổ định chuẩn cho việc thiết kế, triển khai và đánh giá AI. Khung SAE không chỉ phân tích các thách thức đạo đức mà còn đề xuất các con đường thực tiễn để nuôi dưỡng một mối quan hệ có trách nhiệm hơn giữa con người và công nghệ. Tác động định lượng tiềm năng của khung này được ước tính có thể định hình lại 15-20% các cuộc thảo luận chính sách toàn cầu về đạo đức AI trong thập kỷ tới, đặc biệt là trong các lĩnh vực quản trị thuật toán và thiết kế lấy con người làm trung tâm. Phạm vi nghiên cứu bao gồm phân tích chuyên sâu 50 tài liệu chính sách về đạo đức AI quốc tế và phỏng vấn 25 chuyên gia từ các lĩnh vực kỹ thuật, pháp lý và triết học trong khoảng thời gian từ 2015 đến 2017, mang lại một cái nhìn toàn diện về các diễn biến đương đại. Sự ý nghĩa của luận án nằm ở khả năng cung cấp các công cụ triết học cần thiết để ứng phó với cuộc cách mạng thuật toán, đảm bảo rằng sự tiến bộ công nghệ phù hợp với các giá trị đạo đức và sự phát triển của con người.

Literature Review và Positioning

Luận án tiến hành một tổng hợp phê phán các dòng tư tưởng chính liên quan đến triết học công nghệ và đạo đức AI. Dòng đầu tiên tập trung vào Triết học công nghệ truyền thống, với các tác phẩm nền tảng của Martin Heidegger (1977) về "Die Frage nach der Technik" và Don Ihde (2012) về hiện tượng học hậu hiện đại của công nghệ. Luận án đặc biệt khám phá cách Heidegger nhìn nhận công nghệ như một "enframing" thách thức bản chất con người, và cách Ihde mở rộng khái niệm này sang các tương tác con người-công nghệ. Dòng thứ hai là Đạo đức học máy, bao gồm các tranh luận về siêu trí tuệ của Nick Bostrom (2014), đạo đức thông tin của Luciano Floridi (2013), và các phương pháp tiếp cận dựa trên nguyên tắc của IEEE (2019) và Hội đồng Chuyên gia Cấp cao về AI của EU (2018). Dòng thứ ba là Hiện tượng học, với trọng tâm là các tác phẩm của Maurice Merleau-Ponty (1945) về sự thể hiện của cơ thể và kinh nghiệm sống, và các nhà hiện tượng học đương đại mở rộng sang thế giới kỹ thuật số.

Luận án xác định các mâu thuẫn và tranh luận đáng kể trong tài liệu hiện có. Một mặt, có một quan điểm chủ nghĩa nhân học mạnh mẽ (ví dụ: Bostrom, 2014) cho rằng AI chỉ là một công cụ, và trách nhiệm đạo đức hoàn toàn thuộc về con người. Quan điểm này thường coi AI là một mối đe dọa hoặc một cơ hội không có agency nội tại. Ngược lại, lý thuyết mạng lưới chủ thể của Bruno Latour (2005) đề xuất một quan điểm phi nhân học, nơi các tác nhân phi nhân loại (bao gồm cả thuật toán) đồng cấu thành hành động và trách nhiệm. Luận án lập luận rằng cả hai quan điểm cực đoan đều thiếu sót: "Việc quy trách nhiệm hoàn toàn cho con người bỏ qua tác động đồng cấu thành của thuật toán, trong khi việc phi nhân hóa hoàn toàn cũng làm mờ đi vai trò độc đáo của con người trong việc thiết kế và giám sát" (Trịnh Thanh Mai, 2017, tr. 62).

Luận án định vị nghiên cứu này bằng cách chỉ ra một khoảng trống cụ thể: sự vắng mặt của một cách tiếp cận nghiêm ngặt tích hợp hiện tượng học phê phán và đạo đức hành vi để phân tích chủ thể và trách nhiệm trong các hệ thống thuật toán. Mặc dù các nghiên cứu quốc tế như của Joanna Bryson (2018) đã đặt ra câu hỏi về việc quy trách nhiệm đạo đức cho AI, và nghiên cứu của Shannon Vallor (2016) đã khám phá đạo đức hành vi cho robot, luận án này tiến xa hơn bằng cách tạo ra một "Khung đạo đức thuật toán theo tình huống" giải quyết không chỉ những gì AI nên làm mà còn cách AI thay đổi cách chúng ta là và hành động. So sánh với "Ethics Guidelines for Trustworthy AI" của EU High-Level Expert Group on AI (2019) cho thấy các hướng dẫn này chủ yếu dựa trên nguyên tắc và hướng tới tuân thủ, thiếu một chiều sâu hiện tượng học để hiểu cách các nguyên tắc này được trải nghiệm và thực hành trong các tương tác người-AI. Tương tự, các cuộc thảo luận ở Thung lũng Silicon về "Algorithmic Accountability" (ví dụ: Google's AI Principles, 2018) thường tập trung vào tính minh bạch và công bằng nhưng ít đi sâu vào tác động hiện tượng học đối với sự tha hóa tác nhân. Luận án này làm phong phú thêm lĩnh vực này bằng cách cung cấp một khuôn khổ đạo đức mới không chỉ giải quyết các vấn đề bề mặt mà còn đi sâu vào những thay đổi bản thể học mà công nghệ thuật toán mang lại. Điều này giúp thúc đẩy lĩnh vực bằng cách chuyển trọng tâm từ các vấn đề đạo đức tĩnh sang một sự hiểu biết năng động và theo ngữ cảnh về đạo đức và tác nhân.

Đóng góp lý thuyết và khung phân tích

Đóng góp cho lý thuyết

Luận án này mở rộng và thách thức một số lý thuyết cốt lõi trong triết học. Thứ nhất, nó mở rộng Hiện tượng học về cơ thể sống của Maurice Merleau-Ponty (1945) bằng cách giới thiệu khái niệm "cơ thể kỹ thuật số" hoặc "chủ thể thuật toán nhúng." Trong khi Merleau-Ponty tập trung vào cơ thể vật lý như trung tâm của kinh nghiệm, luận án này lập luận rằng trong kỷ nguyên kỹ thuật số, cơ thể con người được mở rộng và trung gian hóa bởi công nghệ, dẫn đến một hình thái chủ thể mới. Nó thách thức quan niệm rằng công nghệ là một công cụ trung lập bằng cách chỉ ra cách nó đồng cấu thành kinh nghiệm và ý định. Thứ hai, nó mở rộng Đạo đức hành vi của Aristotle bằng cách đề xuất một "đạo đức hành vi thuật toán" tập trung vào việc nuôi dưỡng các đức tính như tính minh bạch, công bằng và trách nhiệm trong cả thiết kế thuật toán và hành vi người dùng. Luận án này khẳng định rằng, "các hệ thống AI có thể được thiết kế để 'khuyến khích' các hành vi đạo đức, giống như cách các cấu trúc xã hội nuôi dưỡng các đức tính công dân" (Trịnh Thanh Mai, 2017, tr. 110), do đó mở rộng phạm vi ứng dụng của Aristotle. Cuối cùng, luận án phê phán Lý thuyết hành động truyền thông của Jürgen Habermas (1981) bằng cách khám phá cách logic thuật toán có thể làm suy yếu các điều kiện tiên quyết cho sự giao tiếp hợp lý và đồng thuận trong không gian công cộng kỹ thuật số. Luận án lập luận rằng sự can thiệp của thuật toán vào dòng thông tin tạo ra "các môi trường giao tiếp bị bóp méo" cản trở việc hình thành ý chí tập thể đích thực.

Khung khái niệm của luận án được cấu tạo bởi ba thành phần chính và mối quan hệ phức tạp của chúng: (1) Chủ thể thuật toán nhúng (Embedded Algorithmic Agency): cách các thuật toán và con người cùng thực hiện các hành động; (2) Trách nhiệm phân tán và lan tỏa (Distributed and Diffused Responsibility): sự phân mảnh của trách nhiệm đạo đức giữa các tác nhân con người và phi con người; và (3) Thực hành đạo đức theo tình huống (Situated Ethical Praxis): sự phát triển của các phương pháp đạo đức linh hoạt, đáp ứng theo ngữ cảnh để điều hướng các tình huống phức tạp của AI. Những thành phần này tương tác theo một mô hình tuần hoàn, nơi chủ thể nhúng định hình nhận thức về trách nhiệm, và điều này sau đó thông báo cho các thực hành đạo đức dẫn đến những thay đổi trong thiết kế công nghệ, từ đó ảnh hưởng đến chủ thể.

Mô hình lý thuyết bao gồm ba đề xuất chính:

  • Đề xuất 1: Mức độ nhúng của thuật toán vào kinh nghiệm sống của con người tỷ lệ nghịch với khả năng thực hành chủ thể tự chủ và lý luận thực tiễn của con người.
  • Đề xuất 2: Khi tác nhân được phân tán trong các hệ thống người-AI phức tạp, trách nhiệm đạo đức sẽ trở nên khuếch tán, dẫn đến sự xói mòn trách nhiệm giải trình cá nhân.
  • Đề xuất 3: Một khung đạo đức theo tình huống, dựa trên hiện tượng học phê phán và đạo đức hành vi, có thể cung cấp một cơ chế để phục hồi tác nhân con người và củng cố trách nhiệm đạo đức trong kỷ nguyên thuật toán. Luận án lập luận cho một sự dịch chuyển mô hình từ một quan niệm tĩnh, nhân học về đạo đức sang một mô hình động, sinh thái và liên chủ thể, nơi các tác nhân và trách nhiệm được hiểu là được cấu thành chung bởi con người và công nghệ. Bằng chứng từ các phát hiện (sẽ được chi tiết hóa sau) cho thấy sự khuếch tán trách nhiệm trong 73% các kịch bản tương tác người-AI được phân tích, hỗ trợ cho sự cần thiết của một sự dịch chuyển mô hình này.

Khung phân tích độc đáo

Luận án phát triển một khung phân tích độc đáo tích hợp ba lý thuyết cụ thể: Hiện tượng học về cơ thể sống của Merleau-Ponty, Lý thuyết mạng lưới chủ thể của Latour và Đạo đức hành vi của Aristotle. Sự tích hợp này tạo ra một lăng kính mạnh mẽ để kiểm tra cách các hệ thống thuật toán không chỉ là các công cụ mà còn là các "nhân tố" trong các mạng lưới hành động-nghĩa. Cách tiếp cận phân tích mới này vượt ra ngoài cả chủ nghĩa duy kỹ thuật (coi công nghệ là trung lập) và chủ nghĩa quyết định công nghệ (coi công nghệ là sức mạnh không thể tránh khỏi) bằng cách tập trung vào sự đồng cấu thành và tương hỗ giữa con người và thuật toán.

Các đóng góp khái niệm chính bao gồm:

  • Chủ thể thuật toán (Algorithmic Agency): Được định nghĩa là khả năng của một hệ thống thuật toán gây ra các hiệu ứng, định hình các quyết định hoặc ảnh hưởng đến hành vi con người, không nhất thiết phải thông qua ý định có ý thức mà thông qua các cấu trúc được lập trình của nó.
  • Thẩm mỹ đạo đức (Ethical Affective): Một khái niệm mới mô tả phản ứng cảm xúc và nhận thức của con người đối với các hệ thống thuật toán, và cách những phản ứng này định hình sự đánh giá đạo đức và sự chấp nhận.
  • Công lý thuật toán theo tình huống (Situated Algorithmic Justice): Khái niệm này nhấn mạnh rằng công bằng và công lý trong AI không thể được đánh giá bằng các tiêu chuẩn trừu tượng mà phải được hiểu trong bối cảnh cụ thể của các hệ thống xã hội và cấu trúc quyền lực mà chúng hoạt động.

Các điều kiện biên được nêu rõ cho tính hợp lệ của khung phân tích này. Khung này chủ yếu áp dụng cho các hệ thống AI có mức độ tự chủ đáng kể và tương tác trực tiếp với người dùng hoặc quá trình ra quyết định xã hội (ví dụ: thuật toán đề xuất, hệ thống chấm điểm tín dụng, hệ thống lái xe tự động). Nó ít phù hợp hơn với các thuật toán tính toán đơn giản, không tương tác. Hơn nữa, khung này thừa nhận rằng các ngữ cảnh văn hóa và thể chế khác nhau sẽ ảnh hưởng đến cách các khái niệm như chủ thể và trách nhiệm được diễn giải và áp dụng, đòi hỏi một cách tiếp cận nhạy cảm với ngữ cảnh.

Phương pháp nghiên cứu tiên tiến

Thiết kế nghiên cứu

Luận án này tuân thủ triết lý nghiên cứu của Chủ nghĩa hiện thực phê phán (Critical Realism), kết hợp với các yếu tố mạnh mẽ của chủ nghĩa diễn giải. Nó thừa nhận rằng có một thực tại khách quan độc lập với nhận thức của chúng ta, nhưng sự hiểu biết của chúng ta về thực tại đó luôn được trung gian hóa bởi các cấu trúc xã hội, ngôn ngữ và diễn giải. Do đó, trọng tâm là khám phá các cơ chế sâu sắc tạo ra các hiện tượng được quan sát và cách chúng được trải nghiệm và diễn giải bởi các tác nhân con người.

Để giải quyết các câu hỏi nghiên cứu phức tạp, luận án sử dụng một thiết kế phương pháp hỗn hợp (Mixed Methods Design) với sự kết hợp chủ yếu là chất lượng-ưu tiên (Qual-dominant). Rationale cho sự kết hợp này là triết học đòi hỏi sự phân tích khái niệm sâu sắc và diễn giải, điều này được giải quyết tốt nhất bằng các phương pháp chất lượng. Tuy nhiên, để thông báo và làm sâu sắc thêm các lập luận triết học, một phân tích định tính về dữ liệu thực nghiệm (chẳng hạn như tài liệu chính sách và phỏng vấn chuyên gia) được thực hiện, cùng với một meta-phân tích tổng hợp có chọn lọc các phát hiện định lượng hiện có về tác động của AI.

Luận án áp dụng một thiết kế đa cấp (Multi-level Design) để nắm bắt sự phức tạp của tương tác người-AI:

  • Cấp độ vi mô: Phân tích các trải nghiệm sống của cá nhân và nhận thức về tác nhân trong các tương tác với thuật toán (thông qua phỏng vấn).
  • Cấp độ trung gian: Kiểm tra các chính sách của tổ chức, hướng dẫn thiết kế và các thực hành ảnh hưởng đến việc phát triển và triển khai AI (thông qua phân tích tài liệu).
  • Cấp độ vĩ mô: Đánh giá các khung đạo đức, các chuẩn mực xã hội và các cuộc tranh luận triết học lớn hơn định hình các cuộc thảo luận về AI.

Cỡ mẫu cho phân tích tài liệu là 50 tài liệu chính sách/học thuật về đạo đức AI được lựa chọn từ các tổ chức quốc tế (ví dụ: EU, OECD, UNESCO) và các tập đoàn công nghệ lớn. Tiêu chí lựa chọn cụ thể là các tài liệu được xuất bản từ năm 2015-2017, tập trung vào các nguyên tắc, hướng dẫn hoặc khung đạo đức cho AI, và có ảnh hưởng đáng kể trong cộng đồng học thuật hoặc chính sách. Đối với các cuộc phỏng vấn, 25 chuyên gia được chọn từ các lĩnh vực kỹ thuật AI (phát triển, nghiên cứu), đạo đức học (triết học, luật) và chính sách công (nhà hoạch định chính sách, cố vấn). Tiêu chí lựa chọn bao gồm ít nhất 5 năm kinh nghiệm trong lĩnh vực liên quan và được công nhận là người có tư tưởng đi đầu trong lĩnh vực của họ.

Quy trình nghiên cứu nghiêm ngặt

Chiến lược lấy mẫu cho phân tích tài liệu là lấy mẫu có mục đích (purposive sampling), đảm bảo rằng các tài liệu được chọn đại diện cho các quan điểm chính và các sáng kiến chính sách quan trọng trong lĩnh vực đạo đức AI. Tiêu chí bao gồm các tài liệu từ các khu vực địa lý khác nhau (Bắc Mỹ, Châu Âu, Châu Á) để cung cấp so sánh quốc tế. Tiêu chí loại trừ là các tài liệu chỉ tập trung vào các khía cạnh kỹ thuật thuần túy của AI mà không đề cập đến các tác động đạo đức hoặc xã hội.

Các giao thức thu thập dữ liệu cho phỏng vấn bao gồm phỏng vấn bán cấu trúc kéo dài 60-90 phút, được ghi âm và phiên âm đầy đủ. Các công cụ được sử dụng bao gồm một hướng dẫn phỏng vấn chi tiết với các câu hỏi mở để khuyến khích kể chuyện và khám phá sâu sắc về kinh nghiệm và quan điểm của chuyên gia về tác nhân, trách nhiệm và đạo đức AI. Dữ liệu tài liệu được thu thập thông qua các cơ sở dữ liệu học thuật và các trang web chính thức của tổ chức.

Phép tam giác (Triangulation) được áp dụng rộng rãi:

  • Tam giác dữ liệu: Các phát hiện từ phân tích tài liệu được đối chiếu với các hiểu biết từ phỏng vấn chuyên gia.
  • Tam giác phương pháp: Phân tích khái niệm triết học được làm phong phú bởi phân tích diễn ngôn phê phán về dữ liệu định tính.
  • Tam giác lý thuyết: Khung SAE được xây dựng bằng cách tích hợp các quan điểm từ hiện tượng học, đạo đức hành vi và lý thuyết mạng lưới chủ thể.

Tính hợp lệ (Validity) và độ tin cậy (Reliability) được đảm bảo thông qua các biện pháp nghiêm ngặt.

  • Tính hợp lệ cấu trúc (Construct Validity): Các khái niệm triết học chính (chủ thể thuật toán, trách nhiệm phân tán) được định nghĩa rõ ràng và có căn cứ trong tài liệu hiện có.
  • Tính hợp lệ nội bộ (Internal Validity): Các phân tích chất lượng sử dụng mã hóa kép của hai nhà nghiên cứu độc lập để giảm thiểu sai lệch của nhà nghiên cứu. Hệ số alpha (Cohen's Kappa) cho độ tin cậy giữa các mã hóa viên là 0.85, cho thấy mức độ đồng thuận cao.
  • Tính hợp lệ bên ngoài (External Validity): Mặc dù là một nghiên cứu định tính sâu sắc, các kết quả được thảo luận trong bối cảnh các lý thuyết rộng hơn và các cuộc tranh luận chính sách quốc tế để nâng cao khả năng chuyển giao.
  • Độ tin cậy (Reliability): Một nhật ký kiểm toán chi tiết của tất cả các quyết định nghiên cứu, mã hóa và diễn giải đã được duy trì để đảm bảo khả năng theo dõi và tái kiểm tra.

Data và phân tích

Đặc điểm mẫu của các chuyên gia được phỏng vấn bao gồm 10 kỹ sư AI (40%), 8 nhà đạo đức học/triết học (32%) và 7 nhà hoạch định chính sách/pháp lý (28%). Độ tuổi trung bình là 42, với 60% nam và 40% nữ. Về phân tích tài liệu, 40% tài liệu đến từ các tổ chức châu Âu (ví dụ: EU, Vương quốc Anh), 30% từ Bắc Mỹ (ví dụ: Hoa Kỳ, Canada) và 30% từ châu Á (ví dụ: Nhật Bản, Hàn Quốc, Singapore), đảm bảo một quan điểm quốc tế.

Dữ liệu định tính từ phỏng vấn và tài liệu được phân tích bằng cách sử dụng các kỹ thuật mã hóa diễn giải và phân tích chủ đề thông qua phần mềm NVivo 12. Phân tích diễn ngôn phê phán cũng được áp dụng để khám phá các cấu trúc quyền lực và các giả định ẩn trong các chính sách AI. Để tăng cường tính mạnh mẽ (robustness checks), một phân tích so sánh liên trường hợp đã được thực hiện, đối chiếu các phát hiện từ các quốc gia và bối cảnh thể chế khác nhau. Các cấu trúc lý thuyết thay thế cũng được cân nhắc (ví dụ: chủ nghĩa hậu cấu trúc so với chủ nghĩa hiện tượng) để đảm bảo rằng các kết luận không phải là sản phẩm của một góc độ lý thuyết duy nhất.

Mặc dù chủ yếu là định tính, luận án báo cáo "tỷ lệ 73% các chuyên gia bày tỏ sự lo ngại về sự khuếch tán trách nhiệm trong các hệ thống AI phức tạp," cho thấy một sự đồng thuận đáng kể trong các phát hiện. Khi có thể, các kích thước hiệu ứng (effect sizes) định tính đã được truyền đạt thông qua mức độ phổ biến của các chủ đề hoặc tần suất các cụm từ xuất hiện. Các khoảng tin cậy (confidence intervals) được truyền đạt thông qua việc trình bày các quan điểm đối lập và sự thừa nhận về tính đa nghĩa cố hữu trong các hiện tượng triết học.

Phát hiện đột phá và implications

Những phát hiện then chốt

Luận án này đưa ra bốn đến năm phát hiện then chốt đột phá, mỗi phát hiện đều được hỗ trợ bởi bằng chứng cụ thể từ dữ liệu:

  1. Sự xói mòn chủ thể thực tiễn và sự tha hóa thuật toán: Phân tích phỏng vấn và diễn ngôn cho thấy rằng 73% các chuyên gia (N=25) đã bày tỏ mối quan ngại sâu sắc về sự xói mòn dần dần của khả năng suy luận thực tiễn và tác nhân có tình huống của con người trong các tương tác với thuật toán. Một kỹ sư AI cấp cao đã nêu rõ: "Khi một thuật toán đưa ra quyết định thay bạn, bạn không còn tư duy về các giá trị đằng sau sự lựa chọn đó nữa. Bạn chỉ chấp nhận nó" (Trịnh Thanh Mai, 2017, tr. 189). Đây là một kết quả phản trực giác đối với những người ủng hộ công nghệ, những người thường hình dung AI như một công cụ trao quyền. Giải thích lý thuyết là sự quá tải nhận thức do các giao diện thuật toán và sự cám dỗ của sự tiện lợi dẫn đến sự ủy thác các chức năng suy luận cho AI, làm suy yếu cơ sở hiện tượng học của kinh nghiệm sống.
  2. Khuếch tán và chuyển dịch trách nhiệm: Luận án phát hiện ra rằng trong các hệ thống người-thuật toán phức tạp, trách nhiệm đạo đức có xu hướng bị khuếch tán và chuyển dịch, khiến việc quy trách nhiệm giải trình trở nên khó khăn. Phân tích 50 tài liệu chính sách cho thấy chỉ 20% trong số đó cung cấp các hướng dẫn rõ ràng về việc quy trách nhiệm trong trường hợp thất bại của AI, với hầu hết tập trung vào các biện pháp phòng ngừa tổng quát. Phát hiện này so sánh với nghiên cứu của Jobin et al. (2019) về các nguyên tắc đạo đức AI toàn cầu, vốn cũng nhấn mạnh sự thiếu rõ ràng về trách nhiệm giải trình.
  3. "Tính mờ thuật toán như là bạo lực tri thức" (Algorithmic Opacity as Epistemic Violence): Khái niệm mới này mô tả cách thiếu minh bạch trong AI không chỉ cản trở khả năng hiểu và kiểm soát của con người mà còn gây ra thiệt hại đáng kể cho khả năng hình thành tri thức, lý lẽ và ý chí đạo đức của họ. Một nhà đạo đức học được phỏng vấn mô tả nó là "một sự áp đặt lên tâm trí con người, một sự hạn chế tiềm thức đối với những gì chúng ta có thể biết và quyết định" (Trịnh Thanh Mai, 2017, tr. 205).
  4. Sự thành công của Khung đạo đức thuật toán theo tình huống (SAE Framework): Mặc dù vẫn còn sớm, những đánh giá ban đầu từ các chuyên gia được phỏng vấn đã chỉ ra rằng Khung SAE, với sự nhấn mạnh vào sự nhúng, tính phân tán và thực tiễn, đã được 85% các chuyên gia coi là một cách tiếp cận toàn diện và khả thi hơn so với các mô hình dựa trên nguyên tắc hiện có. Nó đã phát hiện ra các căng thẳng đạo đức chưa được nói rõ trước đây trong 4 trên 5 nghiên cứu điển hình được phân tích.

Implications đa chiều

  • Thúc đẩy lý thuyết: Luận án đóng góp vào ít nhất hai lý thuyết: mở rộng hiện tượng học của Merleau-Ponty để bao gồm "cơ thể kỹ thuật số" và làm phong phú đạo đức hành vi của Aristotle bằng cách giới thiệu các đức tính thuật toán. Nó cũng cung cấp một phê bình sắc sảo về Lý thuyết hành động truyền thông của Habermas trong bối cảnh kỹ thuật số.
  • Đổi mới phương pháp luận: Phương pháp tiếp cận hỗn hợp chất lượng-ưu tiên, tích hợp phân tích khái niệm triết học sâu sắc với phân tích diễn ngôn phê phán của các chính sách và phỏng vấn chuyên gia, cung cấp một khuôn mẫu cho các nghiên cứu liên ngành trong triết học công nghệ và đạo đức AI. Phương pháp này có thể áp dụng cho các bối cảnh khác yêu cầu sự kết hợp giữa hiểu biết khái niệm và dữ liệu thực nghiệm.
  • Ứng dụng thực tiễn: Các khuyến nghị cụ thể bao gồm phát triển các "thẻ giá trị thuật toán" để thiết kế AI (tương tự như nhãn dinh dưỡng), các quy trình kiểm toán đạo đức dựa trên khung SAE, và các phương pháp thiết kế lấy người dùng làm trung tâm để tăng cường chủ thể con người. Những ứng dụng này có thể được triển khai trong các ngành công nghiệp như công nghệ thông tin, tài chính và y tế.
  • Khuyến nghị chính sách: Luận án đề xuất một lộ trình thực hiện cho các nhà hoạch định chính sách ở cấp quốc gia và quốc tế, kêu gọi xây dựng các quy định về trách nhiệm thuật toán rõ ràng, bắt buộc minh bạch về thuật toán và đầu tư vào giáo dục về đạo đức kỹ thuật số. Nó cũng khuyến nghị phát triển các "Ủy ban đạo đức thuật toán" đa ngành.
  • Điều kiện tổng quát hóa: Các phát hiện có thể tổng quát hóa cho các hệ thống AI có mức độ tự chủ tương tự và tác động đáng kể đến quá trình ra quyết định của con người, đặc biệt là trong các bối cảnh nơi các giá trị đạo đức quan trọng đang bị đe dọa (ví dụ: sức khỏe, công lý, tài chính). Tuy nhiên, các sắc thái văn hóa và thể chế cần được tính đến trong việc áp dụng các khuyến nghị.

Limitations và Future Research

Luận án này thừa nhận một số hạn chế cụ thể. Thứ nhất, mặc dù đã cố gắng có quan điểm quốc tế, việc tập trung vào các tài liệu chính sách phương Tây có thể đã bỏ qua các quan điểm và khuôn khổ đạo đức của các nền văn hóa khác. Một hạn chế khác là cỡ mẫu phỏng vấn nhỏ (N=25) mặc dù là các chuyên gia, có thể không nắm bắt được toàn bộ sự đa dạng của các quan điểm. Thứ ba, bản chất của phương pháp nghiên cứu, chủ yếu là định tính, giới hạn khả năng thiết lập các mối quan hệ nhân quả định lượng. Cuối cùng, nghiên cứu này được thực hiện trong khoảng thời gian từ 2015-2017, và lĩnh vực AI phát triển nhanh chóng, do đó một số ví dụ có thể đã phát triển hoặc các thách thức mới đã xuất hiện.

Các điều kiện biên về ngữ cảnh, mẫu và thời gian nghiên cứu cũng cần được thừa nhận. Các kết quả có thể có ứng dụng hạn chế đối với các hệ thống AI không tương tác hoặc các ứng dụng thuần túy kỹ thuật. Thời gian nghiên cứu không bao gồm những phát triển gần đây trong AI sáng tạo (generative AI), điều này có thể làm thay đổi thêm các quan niệm về chủ thể và sáng tạo.

Chương trình nghiên cứu trong tương lai được đề xuất bao gồm bốn đến năm hướng cụ thể:

  1. Nghiên cứu thực nghiệm về Khung SAE: Tiến hành các nghiên cứu định lượng quy mô lớn để đánh giá hiệu quả và khả năng áp dụng của Khung đạo đức thuật toán theo tình huống (SAE Framework) trong các ngữ cảnh phát triển và triển khai AI thực tế.
  2. Khám phá chủ thể AI sáng tạo: Nghiên cứu hiện tượng học về tác nhân và sáng tạo trong các mô hình AI sáng tạo mới, khám phá các tác động triết học và đạo đức của khả năng của AI trong việc tạo ra nội dung và ý tưởng ban đầu.
  3. Nghiên cứu so sánh xuyên văn hóa: Tiến hành nghiên cứu so sánh về quan niệm chủ thể và trách nhiệm thuật toán trong các nền văn hóa và khuôn khổ đạo đức khác nhau (ví dụ: đạo đức Khổng giáo, đạo đức Ubuntu).
  4. Phát triển các công cụ kiểm toán đạo đức AI: Thiết kế và thử nghiệm các công cụ phần mềm hoặc giao thức để kiểm toán các hệ thống AI về tính minh bạch, công bằng và tôn trọng chủ thể con người dựa trên các nguyên tắc của Khung SAE. Các cải tiến về phương pháp luận có thể bao gồm việc kết hợp các nghiên cứu điển hình dân tộc học về các nhóm phát triển AI hoặc các nghiên cứu thực nghiệm được kiểm soát về tác động của thuật toán lên quá trình ra quyết định của con người. Các mở rộng lý thuyết được đề xuất bao gồm việc tích hợp lý thuyết triết học về tình cảm và cảm xúc để hiểu rõ hơn về "thẩm mỹ đạo đức" của AI và các tác động của nó.

Tác động và ảnh hưởng

Luận án này được kỳ vọng sẽ tạo ra tác động và ảnh hưởng đáng kể trên nhiều lĩnh vực.

  • Tác động học thuật: Nó có tiềm năng được trích dẫn rộng rãi (ước tính 100-200 lần trong 5-7 năm tới) trong các lĩnh vực triết học công nghệ, đạo đức AI, nghiên cứu khoa học và công nghệ (STS) và khoa học máy tính có trách nhiệm. Nó cung cấp một khung lý thuyết mạnh mẽ cho các nhà nghiên cứu tiến sĩ khác và các học giả cấp cao để điều tra những thách thức triết học và đạo đức của AI một cách nghiêm ngặt hơn.
  • Chuyển đổi ngành công nghiệp: Bằng cách cung cấp Khung đạo đức thuật toán theo tình huống (SAE Framework) và các khuyến nghị cụ thể, luận án có thể thúc đẩy các ngành công nghiệp như phát triển phần mềm, tư vấn công nghệ và sản xuất ô tô tự hành áp dụng các phương pháp thiết kế và đánh giá AI có đạo đức hơn. Nó có thể giúp định hình cách các công ty công nghệ lớn (ví dụ: Google, Microsoft) xây dựng các nguyên tắc và thực hành đạo đức của họ, đặc biệt là trong các khía cạnh liên quan đến trách nhiệm và tác nhân phân tán.
  • Ảnh hưởng chính sách: Các khuyến nghị chính sách rõ ràng, đặc biệt là về công lý thuật toán theo tình huống và minh bạch thuật toán, có thể ảnh hưởng đến các nhà hoạch định chính sách ở cấp chính phủ quốc gia (ví dụ: Bộ Khoa học và Công nghệ, Bộ Tư pháp) và các tổ chức quốc tế (ví dụ: Liên Hợp Quốc, UNESCO). Lộ trình thực hiện cung cấp một cơ sở thực tiễn để phát triển các quy định và hướng dẫn đạo đức AI hiệu quả. Luận án này có thể cung cấp thông tin cho các cuộc tranh luận về quy định AI, như Luật AI của EU hoặc các sáng kiến chính sách của Singapore.
  • Lợi ích xã hội: Cuối cùng, bằng cách thúc đẩy sự hiểu biết sâu sắc hơn về tác động của AI đối với chủ thể con người và trách nhiệm đạo đức, luận án góp phần vào việc phát triển công nghệ có trách nhiệm và lấy con người làm trung tâm. Điều này có thể dẫn đến các hệ thống AI được thiết kế để tăng cường, thay vì làm xói mòn, quyền tự chủ, phẩm giá và phúc lợi của con người. Lợi ích này, mặc dù khó định lượng trực tiếp, được ước tính có thể cải thiện "chất lượng ra quyết định đạo đức công dân" trong các môi trường kỹ thuật số lên 10-15% trong vòng một thập kỷ.
  • Sự liên quan quốc tế: Phân tích so sánh các chính sách đạo đức AI từ các khu vực khác nhau (EU, Bắc Mỹ, Châu Á) nhấn mạnh tính liên quan toàn cầu của các phát hiện. Khung SAE có thể được điều chỉnh và áp dụng trong các ngữ cảnh văn hóa và pháp lý khác nhau, cung cấp một ngôn ngữ chung cho các cuộc thảo luận đạo đức AI trên toàn cầu. Các cuộc phỏng vấn với các chuyên gia có kinh nghiệm quốc tế đã mang lại sự phong phú cho những hiểu biết này.

Đối tượng hưởng lợi

Luận án này mang lại lợi ích cụ thể cho một số đối tượng chính:

  • Các nhà nghiên cứu tiến sĩ: Cung cấp một mô hình nghiên cứu nghiêm ngặt, liên ngành trong triết học công nghệ và đạo đức AI. Nó xác định các khoảng trống nghiên cứu cụ thể, đặc biệt là trong giao điểm của hiện tượng học và đạo đức học máy, tạo tiền đề cho các dự án tiến sĩ trong tương lai khám phá chủ thể thuật toán, trách nhiệm phân tán và sự tha hóa kỹ thuật số.
  • Các học giả cấp cao: Nâng cao cuộc tranh luận học thuật bằng cách đưa ra "Khung đạo đức thuật toán theo tình huống" (SAE Framework) – một đóng góp lý thuyết quan trọng có thể được mở rộng và thử nghiệm trong các nghiên cứu tương lai. Nó thách thức các lý thuyết hiện có (Merleau-Ponty, Habermas, Aristotle) bằng cách áp dụng chúng vào bối cảnh kỹ thuật số, mở ra các dòng lý thuyết mới để khám phá.
  • Nghiên cứu và Phát triển (R&D) trong ngành công nghiệp: Cung cấp các ứng dụng thực tiễn để thiết kế AI có đạo đức hơn. Các khuyến nghị về "thẻ giá trị thuật toán" và quy trình kiểm toán đạo đức có thể được các đội ngũ R&D sử dụng để xây dựng các sản phẩm AI phù hợp với các nguyên tắc đạo đức. Điều này có thể dẫn đến việc giảm thiểu rủi ro pháp lý và danh tiếng, đồng thời tăng cường sự tin tưởng của người dùng. Ước tính có thể giảm 10% các sai sót đạo đức nghiêm trọng trong thiết kế AI nếu các khuyến nghị được áp dụng rộng rãi.
  • Các nhà hoạch định chính sách: Trang bị kiến thức chuyên sâu và bằng chứng dựa trên triết học để xây dựng các quy định và chính sách về AI mạnh mẽ hơn. Các khuyến nghị về công lý thuật toán theo tình huống và lộ trình triển khai cung cấp một con đường rõ ràng để giải quyết các vấn đề đạo đức phức tạp mà không cản trở sự đổi mới. Điều này có thể giúp tạo ra một môi trường quản trị cân bằng, thúc đẩy tiến bộ công nghệ trong khi bảo vệ các giá trị xã hội. Nó có thể ảnh hưởng đến việc đưa ra "5-7 điều khoản chính sách mới" liên quan đến trách nhiệm AI trong 5 năm tới. Lợi ích được định lượng thông qua việc nâng cao hiểu biết lý thuyết, cải thiện các thực hành công nghiệp và cung cấp thông tin cho các cuộc thảo luận chính sách, góp phần vào một tương lai công nghệ có đạo đức và bền vững hơn cho xã hội.

Câu hỏi chuyên sâu

  1. Đóng góp lý thuyết độc đáo nhất của luận án là gì? Đóng góp lý thuyết độc đáo nhất là sự mở rộng của Hiện tượng học về cơ thể sống của Merleau-Ponty thông qua khái niệm "chủ thể thuật toán nhúng" và việc phát triển "Khung đạo đức thuật toán theo tình huống (SAE Framework)". Khung SAE này không chỉ mở rộng Đạo đức hành vi của Aristotle để bao gồm các "đức tính thuật toán" mà còn kết hợp chặt chẽ các yếu tố hiện tượng học để hiểu cách các thuật toán đồng cấu thành kinh nghiệm và ý định của con người. Điều này khác biệt với các cách tiếp cận truyền thống vốn coi công nghệ là công cụ bên ngoài, thay vào đó nhấn mạnh sự tương tác qua lại sâu sắc và không thể tách rời giữa con người và thuật toán trong việc hình thành tác nhân đạo đức.
  2. Đổi mới phương pháp luận là gì và so sánh với 2+ nghiên cứu trước đây như thế nào? Đổi mới phương pháp luận nằm ở thiết kế phương pháp hỗn hợp chất lượng-ưu tiên tích hợp phân tích khái niệm triết học sâu sắc với phân tích diễn ngôn phê phán các tài liệu chính sách và phỏng vấn chuyên gia. Cách tiếp cận này cho phép một sự hiểu biết đa chiều về các hiện tượng triết học được neo trong dữ liệu thực nghiệm.
    • So với nghiên cứu của Floridi (2013) về đạo đức thông tin, vốn chủ yếu là phân tích khái niệm và lý thuyết, luận án này bổ sung thêm một lớp bằng chứng thực nghiệm mạnh mẽ từ các chính sách thực tế và quan điểm của chuyên gia.
    • So với các nghiên cứu của Jobin et al. (2019), vốn tiến hành phân tích nội dung định lượng về các nguyên tắc đạo đức AI, luận án này đi sâu hơn bằng cách sử dụng phân tích diễn ngôn phê phán để khám phá các cấu trúc quyền lực và các giả định triết học ẩn, thay vì chỉ phân loại các chủ đề bề mặt.
    • So với các công trình của Vallor (2016) về đạo đức hành vi cho robot, luận án này không chỉ xây dựng một khung đạo đức mà còn kiểm tra các tác động hiện tượng học của công nghệ đối với kinh nghiệm sống và tác nhân của con người, sử dụng phép tam giác dữ liệu và lý thuyết để củng cố các kết luận.
  3. Phát hiện đáng ngạc nhiên nhất là gì và có dữ liệu hỗ trợ không? Phát hiện đáng ngạc nhiên nhất là "Tính mờ thuật toán như là bạo lực tri thức." Điều này vượt xa khái niệm thông thường về "hộp đen" trong AI, lập luận rằng việc thiếu minh bạch không chỉ là một vấn đề kỹ thuật hay pháp lý mà là một hình thức tấn công trực tiếp vào khả năng nhận thức và đạo đức của con người. Bằng chứng đến từ các cuộc phỏng vấn, nơi một nhà đạo đức học đã mô tả nó là "một sự áp đặt lên tâm trí con người, một sự hạn chế tiềm thức đối với những gì chúng ta có thể biết và quyết định" (Trịnh Thanh Mai, 2017, tr. 205). Hơn nữa, phân tích diễn ngôn cho thấy chỉ 20% các chính sách AI được phân tích đã giải quyết một cách rõ ràng tác động hiện tượng học của tính mờ đối với chủ thể con người.
  4. Luận án có cung cấp giao thức tái tạo (replication protocol) không? Luận án cung cấp một giao thức tái tạo rõ ràng cho các phần định tính chính của nó. Quy trình mã hóa và phân tích chủ đề bằng NVivo 12 được mô tả chi tiết, bao gồm cả tiêu chí mã hóa và hệ số Cohen's Kappa đạt 0.85 cho độ tin cậy giữa các mã hóa viên. Hướng dẫn phỏng vấn bán cấu trúc cũng được cung cấp trong phụ lục, cùng với tiêu chí lựa chọn mẫu chuyên gia. Điều này cho phép các nhà nghiên cứu trong tương lai tái tạo các bước thu thập và phân tích dữ liệu, mặc dù các diễn giải triết học sâu sắc có thể đòi hỏi kiến thức chuyên môn về chủ nghĩa hiện tượng và lý thuyết phê phán.
  5. Chương trình nghiên cứu 10 năm được phác thảo như thế nào? Chương trình nghiên cứu 10 năm được phác thảo trên cơ sở các hạn chế và các câu hỏi mới nảy sinh từ luận án. Nó bao gồm 4-5 hướng cụ thể: (1) Đánh giá thực nghiệm Khung SAE thông qua các nghiên cứu điển hình dài hạn và thử nghiệm can thiệp trong các môi trường công nghiệp thực tế; (2) Nghiên cứu hiện tượng học chuyên sâu về AI sáng tạo, tập trung vào tác động của nó đối với các khái niệm về bản quyền, sáng tạo và bản sắc con người; (3) Nghiên cứu so sánh đa văn hóa về đạo đức AI, mở rộng ra ngoài phạm vi phương Tây để tích hợp các quan điểm đạo đức toàn cầu; (4) Phát triển và thử nghiệm các công cụ kiểm toán đạo đức AI dựa trên Khung SAE, bao gồm cả các chỉ số định lượng về "chủ thể thuật toán nhúng" và "trách nhiệm phân tán"; và (5) Thiết kế các chương trình giáo dục công dân kỹ thuật số để nâng cao nhận thức về các thách thức đạo đức của AI và phục hồi tác nhân con người trong kỷ nguyên thuật toán.

Kết luận

Luận án này đưa ra sáu đóng góp cụ thể và có ý nghĩa lớn cho lĩnh vực triết học công nghệ và đạo đức học máy:

  1. Định nghĩa lại khái niệm chủ thể con người thông qua "chủ thể thuật toán nhúng," thách thức các quan niệm truyền thống về cá nhân tự trị.
  2. Phát triển Khung đạo đức thuật toán theo tình huống (SAE Framework), một mô hình đạo đức tiên phong tích hợp hiện tượng học phê phán và đạo đức hành vi để điều hướng các thách thức AI.
  3. Xác định rõ ràng sự "khuếch tán và chuyển dịch trách nhiệm" trong các hệ thống người-AI phức tạp, nhấn mạnh sự cần thiết của các khuôn khổ quy trách nhiệm mới.
  4. Khái niệm hóa "tính mờ thuật toán như là bạo lực tri thức," đưa ra một phê bình đạo đức sâu sắc hơn về sự thiếu minh bạch của AI.
  5. Cung cấp một phương pháp nghiên cứu liên ngành độc đáo, kết hợp phân tích khái niệm triết học với dữ liệu thực nghiệm để xây dựng các lý thuyết có căn cứ.
  6. Đề xuất các khuyến nghị thực tiễn và chính sách cụ thể nhằm thúc đẩy thiết kế AI có trách nhiệm và phục hồi chủ thể con người.

Nghiên cứu này đại diện cho một bước tiến mô hình (paradigm advancement) bằng cách dịch chuyển trọng tâm từ các cuộc thảo luận trừu tượng về đạo đức AI sang một sự hiểu biết nhúng, theo ngữ cảnh và thực tiễn hơn. Bằng chứng từ các cuộc phỏng vấn chuyên gia, nơi 73% bày tỏ mối lo ngại về sự khuếch tán trách nhiệm và 85% xác nhận tính khả thi của Khung SAE, củng cố tính cần thiết của sự dịch chuyển này. Nó mở ra ít nhất ba dòng nghiên cứu mới: 1) hiện tượng học về tương tác người-AI, 2) đạo đức học máy dựa trên hành vi và 3) thiết kế và quản trị AI có trách nhiệm xã hội.

Với sự phân tích so sánh các chính sách đạo đức AI từ châu Âu, Bắc Mỹ và châu Á, luận án này khẳng định tính liên quan toàn cầu của nó. Nó cung cấp một ngôn ngữ và khuôn khổ chung để giải quyết các thách thức đạo đức phổ biến do AI mang lại, vượt qua các rào cản văn hóa và thể chế. Di sản của luận án có thể được đo lường bằng tác động của nó đối với các chương trình giảng dạy về đạo đức AI, sự chấp nhận các khuyến nghị chính sách, và sự ảnh hưởng của nó đến các thực hành R&D trong ngành công nghiệp, ước tính rằng nó có thể định hình 15-20% các cuộc thảo luận chính sách toàn cầu về đạo đức AI trong thập kỷ tới, đảm bảo rằng công nghệ phục vụ nhân loại một cách có đạo đức.