Ai sẽ bị ô tô tự lái cán chết? Máy, cứu được nhiều người nhất có thể, nhưng trên hết, hãy cứu tôi!
Nếu một tình huống phát sinh trong đó hệ thống tự hành của ô tô phải nhanh chóng đưa ra lựa chọn hy sinh ai trong trường hợp tai nạn sắp xảy ra, thì nó nên phản ứng như thế nào? Hi sinh hành khách để cứu người đi đường? Nếu cần, hãy giết một người đi bộ để dành tiền, chẳng hạn, một gia đình bốn người đi trên một chiếc xe hơi? Hay có lẽ anh ấy nên luôn tự bảo vệ mình trước?
Trong khi hơn 1 công ty đã nhận được giấy phép thử nghiệm cá nhân chỉ riêng ở California, thật khó để nói rằng ngành công nghiệp đã sẵn sàng đối mặt với các tình huống khó xử về đạo đức. Hiện tại, anh ấy đang phải vật lộn với nhiều vấn đề cơ bản hơn - vận hành và hiệu quả điều hướng của các hệ thống và chỉ đơn giản là tránh va chạm và các sự kiện không lường trước được. Trong các tình huống như vụ giết người đi bộ gần đây ở Arizona, hoặc các vụ va chạm tiếp theo (XNUMX), cho đến nay, nó chỉ đơn giản là về lỗi hệ thống, chứ không phải về một số loại "lựa chọn đạo đức" của chiếc xe.
Cứu người giàu và trẻ
Những vấn đề của việc đưa ra những quyết định kiểu này không phải là những vấn đề trừu tượng. Bất kỳ tài xế có kinh nghiệm nào cũng có thể chứng nhận điều này. Năm ngoái, các nhà nghiên cứu từ Phòng thí nghiệm truyền thông MIT đã phân tích hơn bốn mươi triệu câu trả lời từ những người được hỏi từ khắp nơi trên thế giới, mà họ thu thập được trong quá trình nghiên cứu được đưa ra vào năm 2014. Hệ thống thăm dò mà họ gọi là "Cỗ máy đạo đức", cho thấy rằng ở nhiều nơi khác nhau thế giới, những câu hỏi tương tự được hỏi những câu trả lời khác nhau.
Các kết luận chung nhất có thể dự đoán được. Trong những tình huống khắc nghiệt mọi người thích cứu người hơn chăm sóc động vật, nhằm cứu càng nhiều mạng người càng tốt, và có xu hướng trẻ hơn người già (2). Cũng có một số sở thích, nhưng ít rõ ràng hơn khi đề cập đến việc giải cứu phụ nữ hơn nam giới, những người có địa vị cao hơn những người nghèo hơn và người đi bộ thay vì hành khách trên xe hơi..
2. Xe nên cứu ai?
Vì gần nửa triệu người trả lời đã điền vào bảng câu hỏi nhân khẩu học, nên có thể tương quan sở thích của họ với tuổi tác, giới tính và niềm tin tôn giáo. Các nhà nghiên cứu kết luận rằng những khác biệt này không "ảnh hưởng đáng kể" đến quyết định của mọi người, nhưng ghi nhận một số ảnh hưởng văn hóa. Ví dụ, người Pháp có xu hướng cân nhắc các quyết định dựa trên số lượng người chết ước tính, trong khi ở Nhật Bản ít chú trọng nhất. Tuy nhiên, ở đất nước Mặt trời mọc, cuộc sống của người cao tuổi được coi trọng hơn nhiều so với phương Tây.
“Trước khi cho phép những chiếc xe của mình đưa ra quyết định đạo đức của riêng mình, chúng ta cần có một cuộc tranh luận toàn cầu về điều này. Khi các công ty làm việc trên các hệ thống tự trị tìm hiểu về sở thích của chúng tôi, thì họ sẽ phát triển các thuật toán đạo đức trong các máy dựa trên chúng và các chính trị gia có thể bắt đầu đưa ra các quy định pháp lý đầy đủ, ”các nhà khoa học viết vào tháng 2018 năm XNUMX trên tạp chí Nature.
Một trong những nhà nghiên cứu tham gia vào thí nghiệm Moral Machine, Jean-Francois Bonnefont, nhận thấy sở thích giải cứu những người có địa vị cao hơn (chẳng hạn như giám đốc điều hành thay vì người vô gia cư) là đáng báo động. Theo ý kiến của ông, điều này liên quan rất nhiều đến mức độ bất bình đẳng kinh tế ở một quốc gia nhất định. Ở những nơi bất bình đẳng lớn hơn, người ta ưu tiên hy sinh người nghèo và người vô gia cư.
Đặc biệt, một trong những nghiên cứu trước đây đã chỉ ra rằng, theo những người được hỏi, một chiếc xe ô tô tự lái nên bảo vệ càng nhiều người càng tốt, ngay cả khi điều đó có nghĩa là mất hành khách. Tuy nhiên, đồng thời, những người được hỏi khẳng định rằng họ sẽ không mua một chiếc xe được lập trình theo cách này. Các nhà nghiên cứu giải thích rằng trong khi mọi người thấy rằng việc cứu nhiều người hơn là có đạo đức hơn, họ cũng quan tâm đến bản thân, điều này có thể là một tín hiệu cho các nhà sản xuất rằng khách hàng sẽ miễn cưỡng mua những chiếc xe được trang bị hệ thống vị tha.. Cách đây ít lâu, đại diện của công ty Mercedes-Benz cho biết nếu hệ thống của họ chỉ cứu được một người thì họ sẽ chọn tài xế chứ không phải người đi bộ. Làn sóng phản đối của công chúng buộc công ty phải rút lại tuyên bố của mình. Nhưng nghiên cứu cho thấy rõ ràng rằng có rất nhiều đạo đức giả trong sự phẫn nộ thánh thiện này.
Điều này đã xảy ra ở một số quốc gia. nỗ lực đầu tiên đối với quy định pháp luật trên thực địa. Đức đã thông qua luật yêu cầu xe ô tô không người lái phải tránh bị thương hoặc tử vong bằng mọi giá. Luật cũng quy định rằng các thuật toán không bao giờ có thể đưa ra quyết định dựa trên các đặc điểm như tuổi tác, giới tính, sức khỏe hoặc người đi bộ.
Audi chịu trách nhiệm
Người thiết kế không thể lường trước được hết hậu quả của quá trình vận hành xe. Thực tế luôn có thể cung cấp sự kết hợp của các biến chưa từng được kiểm tra trước đây. Điều này làm xói mòn niềm tin của chúng ta vào khả năng "lập trình một cách có đạo đức" một chiếc máy nào đó. Đối với chúng tôi, dường như trong những tình huống xảy ra lỗi và thảm kịch xảy ra "do lỗi của ô tô", trách nhiệm phải do nhà sản xuất và phát triển hệ thống chịu.
Có lẽ suy luận này đúng, nhưng có lẽ không phải vì nó sai. Thay vào đó, bởi vì một phong trào đã được cho phép mà không phải 2019% không có khả năng thực hiện nó. Đó dường như là lý do và trách nhiệm chung không hề được né tránh bởi công ty, công ty gần đây đã thông báo rằng họ sẽ chịu trách nhiệm về các vụ tai nạn liên quan đến chiếc A8 3 tuổi khi sử dụng hệ thống thí điểm kẹt xe tự động (XNUMX) trong đó.
3. Giao diện thí điểm kẹt xe của Audi
Mặt khác, có hàng triệu người lái xe ô tô và cũng mắc lỗi. Vậy tại sao máy móc, theo thống kê ít mắc lỗi hơn con người, bằng chứng là nhiều sai lầm, lại bị phân biệt đối xử về mặt này?
Nếu ai đó nghĩ rằng những tình huống khó xử về đạo đức và trách nhiệm trong thế giới xe tự hành là đơn giản, hãy tiếp tục suy nghĩ ...
