Các lập luận chống lại sự phát triển AI: Góc nhìn đạo đức và cách tranh luận

Những lập luận mạnh nhất chống lại sự phát triển AI không phải là tuyên bố rằng mọi ứng dụng AI đều sai. Đó là những phản đối đạo đức đối với cách AI được xây dựng, triển khai và quản trị: ai gánh chịu rủi ro, ai thu được lợi ích, và ai có thể phản đối quyết định của máy móc. Bài viết này giải thích những lập luận đó, phân biệt phê bình nghiêm túc với phản đối toàn diện, và chỉ cho bạn cách tranh luận chúng bằng ví dụ đã giải, bài tập thực hành và danh sách kiểm tra ôn tập.

Những phản đối đạo đức thực sự tuyên bố điều gì

Hầu hết phê bình về phát triển AI đều có điều kiện. Một nhà phê bình có thể lập luận rằng một ứng dụng cụ thể, chẳng hạn như sàng lọc tuyển dụng tự động hoặc cảnh sát dự báo, nên bị tạm dừng cho đến khi có thể được kiểm toán và kháng nghị. Điều đó khác với lập luận rằng mọi nghiên cứu AI nên dừng lại. Nhầm lẫn hai điều này làm suy yếu cuộc tranh luận, vì người bảo vệ có thể dễ dàng đánh bại phiên bản toàn diện và tỏ ra đã trả lời phản đối thực sự.

Cụm từ các lập luận phản đối đạo đức phát triển trí tuệ nhân tạo đôi khi được tìm kiếm như thể nó đặt tên cho một lập trường duy nhất. Trên thực tế, nó bao gồm một họ lập luận: về sự đồng ý, trách nhiệm giải trình, công bằng phân phối, quyền tự chủ, tính minh bạch và sự tập trung quyền lực. Mỗi lập luận có gánh nặng chứng minh khác nhau, và một người tranh luận giỏi nêu rõ mình đang đưa ra lập luận nào.

Một phép thử hữu ích là hỏi điều gì sẽ thay đổi suy nghĩ của nhà phê bình. Nếu câu trả lời là một biện pháp bảo vệ cụ thể, lập luận là về quản trị. Nếu không biện pháp bảo vệ nào là đủ, lập luận là về giới hạn cố hữu, và nó cần một biện minh mạnh mẽ hơn nhiều.

Những những lo ngại về trí tuệ nhân tạo có sức nặng thực sự

những lo ngại về trí tuệ nhân tạo trở nên thuyết phục khi chúng gắn với một cơ chế. 'AI sẽ gây hại' là một khẩu hiệu. 'Một mô hình được huấn luyện trên dữ liệu lịch sử thiên lệch sẽ tái tạo thiên lệch đó trong các quyết định ảnh hưởng đến sinh kế của người dân, và những người bị ảnh hưởng có thể không có cách nào để biết tại sao họ bị từ chối' là một lập luận.

Trách nhiệm giải trình là khó khăn trung tâm. Khi một hệ thống đưa ra hoặc định hình một quyết định, trách nhiệm có thể tan biến giữa nhà phát triển, nhà cung cấp, tổ chức triển khai và người vận hành. Một nhà phê bình có thể lập luận rằng khoảng trống này không phải là tai nạn mà là kết quả có thể dự đoán của cách các hệ thống tự động được mua sắm và sử dụng.

Quy mô và tốc độ cũng quan trọng. Một quy trình thủ công có sai sót gây hại cho một vài người mỗi lần; một quy trình tự động có sai sót có thể gây hại cho nhiều người cùng lúc trước khi bất kỳ ai nhận ra. Sự bất đối xứng đó là lý do chính đáng để yêu cầu kiểm thử và giám sát mạnh mẽ hơn trước khi triển khai, không nhất thiết là lý do để từ bỏ công nghệ.

  • Thiên lệch được tái tạo từ dữ liệu huấn luyện và khuếch đại qua triển khai.
  • Khoảng trống trách nhiệm giải trình khi tác hại lan rộng qua nhiều tổ chức.
  • Tính mờ đục khiến các quyết định khó giải thích hoặc phản đối.
  • Sự tập trung năng lực và dữ liệu vào một số ít công ty.
  • Dịch chuyển lao động không có kế hoạch chuyển đổi đáng tin cậy.
  • Rủi ro sử dụng kép khi cùng một năng lực phục vụ cả mục đích có lợi và có hại.

Những các câu hỏi đạo đức về trí tuệ nhân tạo khó trả lời dễ dàng

Một số các câu hỏi đạo đức về trí tuệ nhân tạo thực sự khó vì những người hợp lý không đồng ý về các giá trị đang bị đe dọa. Có chấp nhận được không khi huấn luyện một mô hình trên bài viết cá nhân công khai mà không có sự đồng ý rõ ràng? Có công bằng không khi sử dụng chấm điểm tự động khi người bị chấm không thể xem xét các tiêu chí? Có nên cho phép một hệ thống đưa ra quyết định sơ bộ mà con người gần như luôn phê duyệt mà không xem xét?

Đây không phải là câu hỏi kỹ thuật với các giải pháp kỹ thuật. Chúng là câu hỏi về sự đồng ý, công bằng và ý nghĩa của phán đoán con người. Một cuộc tranh luận coi chúng là vấn đề kỹ thuật sẽ bỏ lỡ điểm mấu chốt, và một cuộc tranh luận coi chúng là hệ tư tưởng thuần túy sẽ bỏ lỡ các ràng buộc thực tế.

Bước đi hiệu quả nhất là xác định bối cảnh. Sàng lọc tự động trong một trò chơi ít rủi ro không giống như sàng lọc tự động trong đơn xin thế chấp. Trọng lượng đạo đức thay đổi theo mức độ rủi ro, các lựa chọn thay thế có sẵn và mức độ dễ dàng kháng nghị.

vì sao trí tuệ nhân tạo gây tranh cãi? Những lý do cấu trúc

vì sao trí tuệ nhân tạo gây tranh cãi một phần là câu hỏi về công nghệ và một phần là câu hỏi về thể chế. AI đến với động cơ thương mại to lớn, giám sát công cộng hạn chế và thói quen được mô tả bằng những thuật ngữ phóng đại. Mỗi điều này nuôi dưỡng sự nghi ngờ độc lập với những gì công nghệ thực sự có thể làm.

Cường điệu là một vấn đề đạo đức thực sự. Những tuyên bố phóng đại có thể khiến các tổ chức triển khai hệ thống trước khi chúng sẵn sàng, và khiến công chúng kỳ vọng vào những năng lực không tồn tại. Một nhà phê bình có thể lập luận hợp lý rằng khoảng cách giữa tiếp thị và thực tế tự nó là một nguồn gây hại.

Cuộc tranh cãi cũng phản ánh một câu hỏi phân phối chính đáng: ai nhận được lợi ích năng suất, và ai hấp thụ sự gián đoạn. Khi câu trả lời có vẻ đã được định trước, sự phản đối trở nên cứng rắn hơn. Đó là một lập luận chính trị và kinh tế, không chỉ là kỹ thuật.

các vấn đề đạo đức của trí tuệ nhân tạo: từ nguyên tắc đến thực tiễn

các vấn đề đạo đức của trí tuệ nhân tạo trở nên có thể tranh luận khi chúng được chuyển thành các quyết định. 'Công bằng' là trừu tượng; 'có nên yêu cầu nhà cung cấp này công bố tỷ lệ lỗi theo nhóm trước khi ký hợp đồng' là cụ thể. 'Minh bạch' là trừu tượng; 'có nên thông báo cho ứng viên bị từ chối biết những yếu tố nào đã góp phần' là cụ thể.

Một khung thực tế đặt bốn câu hỏi cho bất kỳ hệ thống được đề xuất nào: ai bị ảnh hưởng, bằng chứng nào hỗ trợ độ chính xác của nó cho từng nhóm, có biện pháp khắc phục nào khi nó sai, và ai chịu trách nhiệm khi nó thất bại. Cả nhà phê bình và người bảo vệ đều có thể sử dụng khung này, điều đó làm cho nó trở thành một cấu trúc tốt cho cuộc tranh luận.

Đây cũng là nơi mà cáo buộc trí tuệ nhân tạo phi đạo đức trở nên có thể kiểm chứng. Nếu một hệ thống thất bại trong những câu hỏi này, lời phê bình có cơ sở. Nếu nó vượt qua, nhà phê bình cần một lập luận khác, chẳng hạn như tuyên bố về quyền lực hoặc rủi ro dài hạn.

Những những lo ngại về đạo đức trí tuệ nhân tạo vượt qua sự xem xét

Những những lo ngại về đạo đức trí tuệ nhân tạo có khả năng thuyết phục khán giả trung lập nhất là những concerns nêu tên nạn nhân, cơ chế và biện pháp khắc phục. Hãy xem xét một văn phòng phúc lợi sử dụng hệ thống tự động để gắn cờ các yêu cầu cần xem xét. Nếu hệ thống tạo ra nhiều cờ sai hơn cho một nhóm, và những người yêu cầu bị gắn cờ phải đối mặt với sự chậm trễ mà không có lời giải thích, mối lo ngại là cụ thể và biện pháp khắc phục có thể xác định: công bố tỷ lệ lỗi, yêu cầu xem xét của con người và cho người yêu cầu một con đường kháng nghị.

Một mối lo ngại bền vững thứ hai là sự đồng ý. Những người có bài viết, hình ảnh hoặc giọng nói được sử dụng để huấn luyện một hệ thống có thể chưa bao giờ đồng ý với việc sử dụng đó, và có thể không có cách nào thực tế để phản đối. Dù người ta có nghĩ điều này đã được giải quyết về mặt pháp lý hay không, đó là một chủ đề công bằng cho lập luận đạo đức.

Thứ ba là sự bất đối xứng thông tin. Tổ chức triển khai một hệ thống thường biết nhiều hơn về cách nó hoạt động so với người bị nó tác động. Khoảng cách đó không tự động sai, nhưng nó chuyển gánh nặng biện minh sang người triển khai, đó chính xác là loại tuyên bố mà một cuộc tranh luận có thể kiểm tra.

Khi nào trí tuệ nhân tạo phi đạo đức, và khi nào cáo buộc bị phóng đại?

Gọi AI là vô đạo đức là một tuyên bố mạnh mẽ, và nó dễ bảo vệ nhất khi chỉ ra một thực tiễn cụ thể thay vì toàn bộ công nghệ. Một hệ thống che giấu tỷ lệ lỗi của nó khỏi những người mà nó đánh giá, hoặc loại bỏ bất kỳ kiểm tra con người có ý nghĩa nào khỏi một quyết định có rủi ro cao, có thể được gọi một cách công bằng là vô đạo đức trong việc triển khai đó.

Cáo buộc bị phóng đại khi nó được sử dụng như một nhãn toàn diện. Một bệnh viện sử dụng công cụ hỗ trợ phân loại mà bác sĩ lâm sàng có thể ghi đè, được giám sát về độ chính xác theo nhóm và được công bố cho bệnh nhân thì không rõ ràng là vô đạo đức, ngay cả khi cùng công nghệ cơ bản có thể bị lạm dụng ở nơi khác. Tính chính xác bảo vệ uy tín của nhà phê bình.

Nó cũng giúp tách hành vi của nhà phát triển khỏi hành vi của người triển khai. Một phòng thí nghiệm phát hành một năng lực mà không cảnh báo về các chế độ thất bại đã biết đang đưa ra một loại lựa chọn đạo đức; một công ty mua nó và áp dụng cho tuyển dụng mà không kiểm thử đang đưa ra một lựa chọn khác. Các cuộc tranh luận được cải thiện khi bên bị cáo buộc được nêu tên.

vì sao trí tuệ nhân tạo vô đạo đức? Kiểm tra khung đạo đức

Đặt câu hỏi vì sao trí tuệ nhân tạo vô đạo đức đẩy lập luận vượt ra ngoài hậu quả và vào nguyên tắc. Một số nhà phê bình cho rằng các hệ thống tự động đối xử với con người như các điểm dữ liệu thay vì như những tác nhân mà phán đoán của họ quan trọng, và sự thiếu tôn trọng này là sai bất kể kết quả có chính xác hay không. Những người khác lập luận rằng triển khai các hệ thống mà lý do của chúng không thể được hiểu bởi những người bị ảnh hưởng vi phạm một nghĩa vụ cơ bản về tính thẳng thắn.

Đây là những lập trường nghiêm túc, nhưng chúng cần được nêu ra như các nguyên tắc thay vì chỉ khẳng định. Nếu tuyên bố là các quyết định tự động thiếu tôn trọng con người, người bảo vệ có thể hỏi liệu có bất kỳ hỗ trợ tự động nào là chấp nhận được không, và ranh giới nằm ở đâu. Nếu tuyên bố là về tính thẳng thắn, cuộc tranh luận chuyển sang việc công bố nào sẽ thỏa mãn nghĩa vụ đó.

Một kỷ luật hữu ích là hỏi liệu cùng một nguyên tắc có được áp dụng nhất quán không. Nếu một nhà phê bình phản đối các quyết định tự động trong tuyển dụng nhưng chấp nhận chúng trong lọc thư rác, họ cần giải thích sự khác biệt, thường dựa trên mức độ rủi ro, khả năng đảo ngược hoặc sự hiện diện của một lựa chọn thay thế con người có ý nghĩa. Giải thích đó chính là lập luận.

Ví dụ đã giải 1: sàng lọc tuyển dụng tự động

Giả sử một công ty đề xuất một công cụ AI xếp hạng ứng viên việc làm. Nhà phê bình lập luận rằng không nên sử dụng nó. Người bảo vệ lập luận rằng nó giảm bớt phán đoán con người không nhất quán.

Lập luận mạnh nhất của nhà phê bình không phải là công cụ thiên lệch một cách trừu tượng, mà là công ty hiện không thể chứng minh tỷ lệ lỗi bằng nhau giữa các nhóm, không thể giải thích lý do từ chối cho ứng viên và không có quy trình kháng nghị. Dựa trên những sự kiện đó, phản đối đạo đức là về mức độ sẵn sàng triển khai, và biện pháp khắc phục là tạm dừng cộng với yêu cầu kiểm toán, không phải cấm vĩnh viễn.

Phản hồi mạnh nhất của người bảo vệ là tuyển dụng con người cũng thiên lệch và không nhất quán, và việc từ chối công cụ sẽ duy trì những khiếm khuyết đó. Cuộc tranh luận sau đó chuyển sang bằng chứng so sánh: quy trình nào tạo ra kết quả tốt hơn cho các ứng viên bị ảnh hưởng, và ai gánh chịu gánh nặng chứng minh điều đó.

Một phiên bản yếu của lập luận nhà phê bình sẽ tuyên bố công cụ 'vốn dĩ phân biệt đối xử' mà không có bằng chứng. Một phiên bản yếu của lập luận người bảo vệ sẽ tuyên bố 'thuật toán là trung lập' vì nó không sử dụng trực tiếp các thuộc tính được bảo vệ. Cả hai động thái đều bỏ qua cách các biến đại diện và dữ liệu huấn luyện hoạt động.

Ví dụ đã giải 2: phát hành mở một mô hình mạnh mẽ

Giả sử một phòng thí nghiệm đề xuất phát hành trọng số mô hình công khai. Nhà phê bình lập luận rằng điều này tạo ra rủi ro lạm dụng không thể kiểm soát. Người bảo vệ lập luận rằng phát hành mở cho phép giám sát, cạnh tranh và phòng thủ.

Lập luận của nhà phê bình mạnh nhất khi nó xác định một năng lực cụ thể khó thu hồi sau khi phát hành và dễ bị lạm dụng ở quy mô lớn. Lập luận của người bảo vệ mạnh nhất khi nó cho thấy phát triển đóng có vấn đề trách nhiệm giải trình riêng và đánh giá mở đã phát hiện ra những khiếm khuyết thực sự.

Hãy chú ý cách lập luận chuyển từ 'AI là vô đạo đức' sang sự đánh đổi giữa hai loại rủi ro. Đó là dấu hiệu của một cuộc tranh luận trưởng thành. Giải pháp có thể là phát hành theo giai đoạn, cấp phép hoặc ngưỡng năng lực, mỗi loại đều có thể được tranh luận dựa trên giá trị của nó.

Bài tập thực hành: phân loại và trả lời phản đối

Đọc ba phản đối dưới đây. Với mỗi phản đối, hãy quyết định xem nó là (a) phản đối quản trị, (b) phản đối giới hạn cố hữu, hay (c) phản đối tập trung quyền lực. Sau đó viết một câu mà người bảo vệ có thể dùng để trả lời.

Phản đối 1: 'Một bệnh viện không nên triển khai hệ thống chẩn đoán cho đến khi có thể hiển thị dữ liệu hiệu suất theo nhóm và quy trình ghi đè của bác sĩ lâm sàng.' Phản đối 2: 'Không máy móc nào nên đưa ra quyết định về quyền tự do của một người.' Phản đối 3: 'Một số ít công ty kiểm soát dữ liệu và năng lực tính toán cần thiết để xây dựng các hệ thống này, vì vậy lợi ích sẽ không được chia sẻ rộng rãi.'

Câu trả lời đã giải thích: Phản đối 1 là phản đối quản trị, vì một biện pháp bảo vệ cụ thể sẽ thỏa mãn nó; người bảo vệ có thể trả lời rằng bệnh viện sẽ công bố dữ liệu và yêu cầu bác sĩ lâm sàng phê duyệt. Phản đối 2 là phản đối giới hạn cố hữu, vì nó loại trừ thực tiễn bất kể biện pháp bảo vệ nào; người bảo vệ có thể hỏi liệu có bất kỳ hỗ trợ tự động nào ngắn hơn quyết định cuối cùng là chấp nhận được không. Phản đối 3 là phản đối tập trung quyền lực; người bảo vệ có thể chỉ ra năng lực tính toán công cộng, mô hình mở hoặc biện pháp chống độc quyền. Nếu phân loại của bạn khác nhưng lý luận của bạn vững chắc, điều đó chấp nhận được, vì các phạm trù chồng chéo.

Những sai lầm phổ biến trong cuộc tranh luận này

Sai lầm phổ biến nhất là tấn công một hình mẫu biếm họa. Lập luận rằng 'những nhà phê bình muốn cấm tất cả AI' dễ hơn là đối thoại với một đề xuất quản trị cụ thể, nhưng nó không thuyết phục bất kỳ ai giữ quan điểm thực sự.

Sai lầm thứ hai là coi các mối lo ngại đạo đức là thuần túy kỹ thuật. Một mô hình có thể chính xác và vẫn được triển khai không công bằng. Sai lầm thứ ba là coi chúng là thuần túy hệ tư tưởng, điều này bỏ qua rằng kiểm toán, kháng nghị và yêu cầu công bố là những phản hồi thực tế cho các vấn đề thực tế.

Sai lầm thứ tư là tuyên bố quá mức. Nói AI là vô đạo đức mà không nêu rõ quyền của ai bị vi phạm và như thế nào sẽ mời người bảo vệ yêu cầu bằng chứng mà bạn không có. Sai lầm thứ năm là bỏ qua đường cơ sở: so với lựa chọn thay thế nào? Các quy trình con người có chế độ thất bại riêng, và một lập luận nghiêm túc phải giải quyết chúng.

Danh sách kiểm tra ôn tập trước khi bạn tranh luận

Sử dụng danh sách kiểm tra này để kiểm tra áp lực lập trường của bạn trước một cuộc tranh luận. Nó áp dụng cho dù bạn đang lập luận cho các ràng buộc mạnh mẽ hơn đối với phát triển AI hay bảo vệ sự phát triển tiếp tục dưới các biện pháp bảo vệ.

  • Tôi đã nêu tên ứng dụng cụ thể và những người bị ảnh hưởng chưa?
  • Phản đối của tôi là về quản trị, giới hạn cố hữu hay quyền lực, và điều đó có rõ ràng không?
  • Bằng chứng nào sẽ hỗ trợ tuyên bố của tôi, và tôi có thực sự có nó không?
  • Phiên bản mạnh nhất của lập luận đối lập là gì, và tôi đã trả lời nó chưa?
  • Biện pháp khắc phục nào tôi đang đề xuất, và nó có thực sự giải quyết tác hại không?
  • Tôi đã so sánh hệ thống AI với lựa chọn thay thế con người thực tế chưa?
  • Tôi đã tránh những tuyên bố tôi không thể hỗ trợ về những gì các hệ thống này hiểu hoặc xứng đáng chưa?
  • Tôi có thể nêu trong một câu điều gì sẽ thay đổi suy nghĩ của tôi không?

Nơi thực hành tranh luận có cấu trúc giúp ích

Những lập luận này dễ mài sắc hơn khi bạn phải bảo vệ chúng dưới áp lực thời gian và trả lời phản biện. AI Debate Arena là một trình mô phỏng tranh luận 4v4 có cấu trúc trên trình duyệt, nơi bạn có thể chọn một bên và một trong tám vai trò người tranh luận, hoặc xem AI đấu với AI. Một người điều hành chạy các giai đoạn có thời gian, phản biện và tranh luận tự do, và ba giám khảo AI đưa ra phản hồi về lý luận của bạn. Bạn có thể nhập một chủ đề như liệu phát hành mô hình mở có nên bị hạn chế hay không, hoặc tạo một chủ đề, và sử dụng nhập bằng giọng nói hoặc đọc to nếu trình duyệt của bạn hỗ trợ. Quyền truy cập, hạn mức và lịch sử phụ thuộc vào gói của bạn.

Phản hồi của giám khảo là một công cụ hỗ trợ thực hành, không phải là phán quyết chính thức về đạo đức, và nó không thay thế một huấn luyện viên con người.

Câu hỏi thường gặp

Các lập luận chống lại sự phát triển AI có giống với việc chống lại công nghệ không?

Không. Hầu hết các nhà phê bình nghiêm túc nhắm vào các ứng dụng cụ thể, thực tiễn triển khai hoặc khoảng trống quản trị. Phản đối toàn bộ nghiên cứu AI là một lập trường mạnh hơn nhiều và ít phổ biến hơn, và nó mang gánh nặng chứng minh nặng hơn.

Sự khác biệt giữa phản đối quản trị và phản đối giới hạn cố hữu là gì?

Một phản đối quản trị có thể được thỏa mãn bằng các biện pháp bảo vệ như kiểm toán, kháng nghị hoặc công bố. Một phản đối giới hạn cố hữu cho rằng không biện pháp bảo vệ nào là đủ vì bản thân thực tiễn là không thể chấp nhận. Nêu rõ bạn đang đưa ra loại nào giữ cho cuộc tranh luận trung thực.

Làm thế nào để tôi trả lời tuyên bố rằng AI là vô đạo đức?

Hãy hỏi về cơ chế cụ thể và bên bị ảnh hưởng. Nếu tuyên bố là một hệ thống tạo ra tỷ lệ lỗi không đồng đều hoặc không thể kháng nghị, biện pháp khắc phục có thể kiểm chứng. Nếu tuyên bố là công nghệ vốn dĩ sai, hãy hỏi nguyên tắc nào khiến nó như vậy và liệu nguyên tắc đó có được áp dụng nhất quán không.

Các mối lo ngại đạo đức về AI có thể được tranh luận mà không cần chuyên môn kỹ thuật không?

Có, miễn là bạn tập trung vào các quyết định và hậu quả thay vì nội bộ mô hình. Các câu hỏi về sự đồng ý, trách nhiệm giải trình, biện pháp khắc phục và phân phối là đạo đức và thể chế, và chúng có thể được tranh luận một cách chặt chẽ mà không cần kiến thức kỹ thuật.

Có công bằng không khi chỉ so sánh một hệ thống AI với một quy trình con người hoàn hảo?

Không. So sánh thực tế là với cách quy trình con người thực sự hoạt động, bao gồm cả những thiên lệch và không nhất quán của nó. Một nhà phê bình bỏ qua đường cơ sở đó có thể được trả lời đơn giản bằng cách chỉ ra nó, vì vậy hãy xây dựng so sánh vào lập luận của bạn ngay từ đầu.

Thực hành lập luận dưới áp lực

Chọn một bên về đạo đức phát triển AI, đảm nhận một vai trò người tranh luận và thực hiện các phản biện có thời gian với phản hồi từ giám khảo AI.

Thử AI Debate Arena