Cho mèo con biết suy nghĩ của bạn bên trong - hiệu ứng hộp đen

Thực tế là các thuật toán AI tiên tiến giống như một hộp đen (1) ném đi một kết quả mà không tiết lộ kết quả đó đã gây ra những lo lắng cho một số người và làm những người khác lo lắng.

Vào năm 2015, một nhóm nghiên cứu tại Bệnh viện Mount Sinai ở New York đã được yêu cầu sử dụng phương pháp này để phân tích cơ sở dữ liệu rộng rãi về bệnh nhân địa phương (2). Bộ sưu tập rộng lớn này chứa một đại dương thông tin về bệnh nhân, kết quả xét nghiệm, đơn thuốc và hơn thế nữa.

Các nhà khoa học đặt tên cho chương trình phân tích được phát triển trong quá trình làm việc. Nó được đào tạo dựa trên dữ liệu từ khoảng 700 người. con người, và khi được thử nghiệm trong các cơ quan đăng ký mới, nó đã được chứng minh là cực kỳ hiệu quả trong việc dự đoán bệnh tật. Không cần sự trợ giúp của các chuyên gia về con người, ông đã phát hiện ra các mẫu trong hồ sơ bệnh viện cho biết bệnh nhân nào đang trên đường dẫn đến bệnh tật, chẳng hạn như ung thư gan. Theo các chuyên gia, hiệu quả tiên lượng và chẩn đoán của hệ thống này cao hơn nhiều so với bất kỳ phương pháp nào khác đã biết.

2. Hệ thống trí tuệ nhân tạo y tế dựa trên cơ sở dữ liệu bệnh nhân

Đồng thời, các nhà nghiên cứu nhận thấy rằng nó hoạt động theo một cách bí ẩn. Ví dụ, hóa ra nó lý tưởng cho công nhận các rối loạn tâm thầnchẳng hạn như bệnh tâm thần phân liệt, điều này là vô cùng khó khăn cho các bác sĩ. Điều này thật đáng ngạc nhiên, đặc biệt là vì không ai biết làm thế nào hệ thống AI có thể xem bệnh tâm thần tốt đến vậy chỉ dựa trên hồ sơ bệnh án của bệnh nhân. Vâng, các chuyên gia rất hài lòng với sự trợ giúp của một chuyên gia chẩn đoán máy hiệu quả như vậy, nhưng họ sẽ hài lòng hơn nhiều nếu họ hiểu cách AI đưa ra kết luận.

Các lớp tế bào thần kinh nhân tạo

Ngay từ đầu, tức là ngay từ khi khái niệm trí tuệ nhân tạo được biết đến, đã có hai quan điểm về AI. Người đầu tiên cho rằng hợp lý nhất là xây dựng những cỗ máy suy luận theo các nguyên tắc đã biết và logic của con người, làm cho hoạt động bên trong của chúng trở nên minh bạch với mọi người. Những người khác tin rằng trí thông minh sẽ xuất hiện dễ dàng hơn nếu máy móc học được thông qua quan sát và thử nghiệm lặp đi lặp lại.

Sau này có nghĩa là đảo ngược lập trình máy tính điển hình. Thay vì lập trình viên viết lệnh để giải quyết một vấn đề, chương trình tạo ra thuật toán riêng dựa trên dữ liệu mẫu và kết quả mong muốn. Trên thực tế, các phương pháp học máy đã phát triển thành các hệ thống AI mạnh mẽ nhất được biết đến ngày nay đã đi vào con đường của máy tự lập trình.

Cách tiếp cận này vẫn nằm ngoài lề của nghiên cứu hệ thống AI trong những năm 60 và 70. Chỉ vào đầu thập kỷ trước, sau một số thay đổi và cải tiến tiên phong, Mạng nơ-ron "sâu" bắt đầu chứng minh sự cải thiện triệt để khả năng của nhận thức tự động. 

Máy học sâu đã ban tặng cho máy tính những khả năng phi thường, chẳng hạn như khả năng nhận dạng lời nói gần như chính xác như con người. Đây là một kỹ năng quá phức tạp để lập trình trước thời hạn. Máy phải có khả năng tạo "chương trình" của riêng nó bằng cách đào tạo về bộ dữ liệu khổng lồ.

Học sâu cũng đã thay đổi nhận dạng hình ảnh máy tính và cải thiện đáng kể chất lượng dịch máy. Ngày nay, nó được sử dụng để đưa ra tất cả các quyết định quan trọng trong y học, tài chính, sản xuất và hơn thế nữa.

Tuy nhiên, với tất cả những điều này bạn không thể chỉ nhìn vào bên trong một mạng nơ-ron sâu để xem "bên trong" hoạt động như thế nào. Các quy trình lập luận mạng được nhúng trong hành vi của hàng nghìn nơ-ron mô phỏng, được tổ chức thành hàng chục hoặc thậm chí hàng trăm lớp liên kết phức tạp với nhau..

Mỗi tế bào thần kinh trong lớp đầu tiên nhận một đầu vào, chẳng hạn như cường độ của một pixel trong hình ảnh, sau đó thực hiện các phép tính trước khi xuất đầu ra. Chúng được truyền trong một mạng phức tạp đến các nơ-ron của lớp tiếp theo - và cứ thế, cho đến tín hiệu đầu ra cuối cùng. Ngoài ra, có một quá trình được gọi là điều chỉnh các tính toán được thực hiện bởi các tế bào thần kinh riêng lẻ để mạng huấn luyện tạo ra kết quả mong muốn.

Trong một ví dụ được trích dẫn có liên quan đến nhận dạng hình ảnh con chó, mức độ AI thấp hơn sẽ phân tích các đặc điểm đơn giản như hình dạng hoặc màu sắc. Những con cao hơn giải quyết các vấn đề phức tạp hơn như lông hoặc mắt. Chỉ lớp trên cùng mới kết hợp tất cả lại với nhau, xác định toàn bộ thông tin là một con chó.

Cách tiếp cận tương tự có thể được áp dụng cho các loại đầu vào khác giúp máy tự học: âm thanh tạo nên từ trong lời nói, chữ cái và từ tạo thành câu trong văn bản viết, hoặc vô lăng chẳng hạn. các chuyển động cần thiết để lái xe.

Xe không bỏ qua thứ gì.

Một nỗ lực được thực hiện để giải thích chính xác những gì xảy ra trong các hệ thống như vậy. Vào năm 2015, các nhà nghiên cứu tại Google đã sửa đổi một thuật toán nhận dạng hình ảnh học sâu để thay vì nhìn thấy các đối tượng trong ảnh, nó đã tạo hoặc sửa đổi chúng. Bằng cách chạy ngược thuật toán, họ muốn khám phá các đặc điểm mà chương trình sử dụng để nhận ra, chẳng hạn như một con chim hoặc một tòa nhà.

Những thí nghiệm này, được công khai với tên gọi là tiêu đề, đã tạo ra những mô tả tuyệt vời về (3) động vật, phong cảnh và nhân vật kỳ dị, kỳ dị. Bằng cách tiết lộ một số bí mật của nhận thức máy móc, chẳng hạn như thực tế là các mẫu nhất định được quay lại và lặp lại nhiều lần, họ cũng cho thấy học máy khác sâu như thế nào với nhận thức của con người - ví dụ: theo nghĩa nó mở rộng và nhân bản các tạo tác mà chúng ta bỏ qua trong quá trình nhận thức mà không cần suy nghĩ của chúng ta. .

3. Hình ảnh được tạo trong dự án

Ngẫu nhiên, mặt khác, những thí nghiệm này đã làm sáng tỏ bí ẩn về cơ chế nhận thức của chính chúng ta. Có lẽ trong nhận thức của chúng ta rằng có nhiều thành phần khó hiểu khác nhau khiến chúng ta hiểu ngay và bỏ qua điều gì đó, trong khi máy móc kiên nhẫn lặp đi lặp lại trên các đối tượng “không quan trọng”.

Các thử nghiệm và nghiên cứu khác được thực hiện với nỗ lực "hiểu" máy. Jason Yosinski ông đã tạo ra một công cụ hoạt động giống như một đầu dò bị mắc kẹt trong não, nhắm mục tiêu vào bất kỳ tế bào thần kinh nhân tạo nào và tìm kiếm hình ảnh kích hoạt nó mạnh mẽ nhất. Trong thí nghiệm cuối cùng, những hình ảnh trừu tượng xuất hiện là kết quả của việc "nhìn trộm" hệ thống mạng, điều này khiến các quá trình diễn ra trong hệ thống càng trở nên bí ẩn hơn.

Tuy nhiên, đối với nhiều nhà khoa học, một nghiên cứu như vậy là một sự hiểu lầm, bởi vì, theo quan điểm của họ, để hiểu hệ thống, để nhận ra các mô hình và cơ chế của một trình tự cao hơn trong việc đưa ra các quyết định phức tạp, tất cả các tương tác tính toán bên trong một mạng lưới thần kinh sâu. Đó là một mê cung khổng lồ của các hàm và biến toán học. Tại thời điểm này, nó là không thể hiểu được đối với chúng tôi.

Máy tính không khởi động được? Tại sao?

Tại sao việc hiểu cơ chế ra quyết định của các hệ thống trí tuệ nhân tạo tiên tiến lại quan trọng? Các mô hình toán học đã được sử dụng để xác định xem tù nhân nào có thể được tạm tha, ai có thể được cho vay, và ai có thể kiếm được việc làm. Những ai quan tâm đều muốn biết tại sao lại đưa ra quyết định này mà không phải quyết định khác, căn cứ và cơ chế của nó là gì.

ông đã thừa nhận vào tháng 2017 năm XNUMX trên tạp chí MIT Technology Review. Tommy Yaakkola, một giáo sư MIT làm việc về các ứng dụng cho máy học. -.

Thậm chí có một vị trí pháp lý và chính sách cho rằng khả năng xem xét kỹ lưỡng và hiểu cơ chế ra quyết định của các hệ thống AI là một quyền cơ bản của con người.

Kể từ năm 2018, EU đã nỗ lực yêu cầu các công ty cung cấp giải thích cho khách hàng của họ về các quyết định do hệ thống tự động đưa ra. Nó chỉ ra rằng điều này đôi khi không thể thực hiện được ngay cả với các hệ thống có vẻ tương đối đơn giản, chẳng hạn như các ứng dụng và trang web sử dụng khoa học sâu sắc để hiển thị quảng cáo hoặc đề xuất bài hát.

Các máy tính chạy các dịch vụ này tự lập trình và chúng thực hiện theo cách mà chúng ta không thể hiểu được ... Ngay cả các kỹ sư tạo ra các ứng dụng này cũng không thể giải thích đầy đủ cách hoạt động của nó.