Cuộc chiến của các thuật toán

Khi nói đến việc sử dụng trí tuệ nhân tạo trong quân sự, cơn ác mộng khoa học viễn tưởng ngay lập tức thức dậy, một AI nổi loạn và chết chóc trỗi dậy chống lại loài người để tiêu diệt nó. Thật không may, nỗi sợ hãi của quân đội và các nhà lãnh đạo rằng "kẻ thù sẽ đuổi kịp chúng ta" cũng mạnh mẽ như trong sự phát triển của các thuật toán chiến tranh.

Chiến tranh thuật toánmà theo nhiều người, về cơ bản có thể thay đổi cục diện chiến trường như chúng ta đã biết, chủ yếu là vì chiến tranh sẽ nhanh hơn, vượt xa khả năng ra quyết định của con người. Tướng mỹ Jack Shanahan (1), người đứng đầu Trung tâm chung về trí tuệ nhân tạo của Hoa Kỳ, nhấn mạnh, tuy nhiên, trước khi đưa trí tuệ nhân tạo vào kho vũ khí, chúng ta phải đảm bảo rằng các hệ thống này vẫn nằm trong tầm kiểm soát của con người và không tự gây ra chiến tranh.

"Nếu kẻ thù có máy móc và thuật toán, chúng ta sẽ thua cuộc xung đột này"

Khả năng lái xe chiến tranh thuật toán dựa trên việc sử dụng những tiến bộ của công nghệ máy tính trong ba lĩnh vực chính. Người đầu tiên hàng thập kỷ tăng trưởng theo cấp số nhân về sức mạnh tính toánđiều này đã cải thiện đáng kể hiệu suất của máy học. Thứ hai tăng trưởng nhanh chóng của các nguồn lực “Dữ liệu lớn”, tức là các tập dữ liệu khổng lồ, thường được tự động hóa, được quản lý và tạo liên tục phù hợp với máy học. Mối quan tâm thứ ba sự phát triển nhanh chóng của công nghệ điện toán đám mây, thông qua đó máy tính có thể dễ dàng truy cập tài nguyên dữ liệu và xử lý chúng để giải quyết vấn đề.

Thuật toán chiến tranhtheo định nghĩa của các chuyên gia, trước tiên nó phải được thể hiện bằng Mã máy tính. Thứ hai, nó phải là kết quả của một nền tảng có khả năng vừa thu thập thông tin vừa đưa ra các lựa chọn, đưa ra các quyết định mà ít nhất về lý thuyết không yêu cầu sự can thiệp của con người. Thứ ba, điều này có vẻ hiển nhiên, nhưng không nhất thiết phải như vậy, vì chỉ khi hoạt động thì người ta mới thấy rõ liệu một kỹ thuật dành cho thứ khác có thể hữu ích trong chiến tranh hay không và ngược lại, nó phải có khả năng hoạt động trong điều kiện. xung đột vũ trang.

Phân tích các hướng trên và sự tương tác của chúng cho thấy rằng chiến tranh thuật toán nó không phải là một công nghệ riêng biệt, chẳng hạn như. vũ khí năng lượng hoặc tên lửa siêu thanh. Ảnh hưởng của nó trên phạm vi rộng và đang dần trở nên phổ biến trong các cuộc chiến. Lần đầu tiên xe quân sự chúng trở nên thông minh, có khả năng làm cho các lực lượng quốc phòng thực thi chúng hiệu quả và hiệu quả hơn. Những cỗ máy thông minh như vậy có những hạn chế rõ ràng cần được hiểu rõ.

"" Shanahan cho biết vào mùa thu năm ngoái trong một cuộc phỏng vấn với cựu Giám đốc điều hành Google Eric Schmidt và Phó chủ tịch Google phụ trách các vấn đề quốc tế Kent Walker. "".

Dự thảo báo cáo của Hội đồng An ninh Quốc gia Hoa Kỳ về AI đề cập đến Trung Quốc hơn 50 lần, nêu bật mục tiêu chính thức của Trung Quốc là trở thành quốc gia dẫn đầu thế giới về AI vào năm 2030 (Xem thêm: ).

Những lời này đã được nói ở Washington tại một hội nghị đặc biệt diễn ra sau khi Trung tâm Shanakhan nói trên trình bày báo cáo sơ bộ trước Quốc hội, được chuẩn bị với sự hợp tác của các chuyên gia nổi tiếng trong lĩnh vực trí tuệ nhân tạo, bao gồm Giám đốc Nghiên cứu của Microsoft Eric Horwitz, Giám đốc điều hành AWS Andy Jassa và Nhà nghiên cứu chính về đám mây của Google, Andrew Moore. Báo cáo cuối cùng sẽ được công bố vào tháng 2020 năm XNUMX.

Nhân viên Google phản đối

Một vài năm trước, Lầu Năm Góc đã vào cuộc. chiến tranh thuật toán và một số dự án liên quan đến AI trong khuôn khổ dự án Maven, dựa trên sự hợp tác với các công ty công nghệ, bao gồm Google và các công ty khởi nghiệp như Clarifai. Nó chủ yếu là về làm việc trên trí tuệ nhân tạođể thuận tiện cho việc xác định các đối tượng trên.

Khi được biết về sự tham gia của Google vào dự án vào mùa xuân năm 2018, hàng nghìn nhân viên của gã khổng lồ Mountain View đã ký một bức thư ngỏ phản đối việc công ty tham gia vào các hoạt động thù địch. Sau nhiều tháng lao động bất ổn Google đã áp dụng bộ quy tắc của riêng mình cho AItrong đó bao gồm lệnh cấm tham gia các sự kiện.

Google cũng đã cam kết hoàn thành hợp đồng Project Maven vào cuối năm 2019. Lối thoát của Google không kết thúc Project Maven. Nó được mua bởi Peter Thiel's Palantir. Không quân và Thủy quân lục chiến Mỹ có kế hoạch sử dụng các phương tiện bay không người lái đặc biệt, chẳng hạn như Global Hawk, như một phần của dự án Maven, mỗi phương tiện được cho là có thể giám sát trực quan lên đến 100 km vuông.

Nhân dịp những gì đang xảy ra xung quanh Dự án Maven, rõ ràng quân đội Mỹ cần một đám mây riêng của mình. Đây là những gì Shanahan đã nói trong hội nghị. Điều này thể hiện rõ khi các đoạn phim video và các bản cập nhật hệ thống phải được chuyển đến các cơ sở quân sự nằm rải rác trên thực địa. Trong tòa nhà điện toán đám mây thống nhất, sẽ giúp giải quyết các vấn đề thuộc loại này, như một phần của dự án cơ sở hạ tầng CNTT hợp nhất cho quân đội Jedi, Microsoft, Amazon, Oracle và IBM. Google không phải vì các quy tắc đạo đức của họ.

Rõ ràng từ tuyên bố của Shanahan rằng cuộc cách mạng AI vĩ đại trong quân đội chỉ mới bắt đầu. Và vai trò của trung tâm của nó trong lực lượng vũ trang Hoa Kỳ ngày càng lớn. Điều này được thấy rõ trong ngân sách ước tính của JAIC. Năm 2019, tổng doanh thu chỉ đạt dưới 90 triệu USD. Vào năm 2020, con số này phải là 414 triệu USD, tức khoảng 10% trong tổng ngân sách 4 tỷ USD dành cho AI của Lầu Năm Góc.

Máy nhận dạng một người lính đã đầu hàng

Quân đội Hoa Kỳ đã được trang bị các hệ thống như Phalanx (2), một loại vũ khí tự động được sử dụng trên các tàu Hải quân Hoa Kỳ để tấn công tên lửa đang bay tới. Khi một tên lửa được phát hiện, nó sẽ tự động bật và phá hủy mọi thứ trên đường đi của nó. Theo Ford, anh ta có thể tấn công bằng bốn hoặc năm tên lửa trong nửa giây mà không cần phải xem xét từng mục tiêu.

Một ví dụ khác là Harpy bán tự trị (3), một hệ thống không người lái thương mại. Harpy được sử dụng để phá hủy các radar của đối phương. Ví dụ, vào năm 2003, khi Mỹ tiến hành một cuộc tấn công vào Iraq có hệ thống radar đánh chặn đường không, các máy bay không người lái do Israel sản xuất đã giúp tìm và tiêu diệt chúng để người Mỹ có thể bay vào không phận Iraq một cách an toàn.

3. Ra mắt máy bay không người lái của hệ thống IAI Harpy

Một ví dụ nổi tiếng khác về vũ khí tự động là Hệ thống Samsung SGR-1 của Hàn Quốc, nằm trong khu vực phi quân sự giữa Triều Tiên và Hàn Quốc, được thiết kế để xác định và bắn những kẻ xâm nhập ở khoảng cách lên đến bốn km. Theo mô tả, hệ thống "có thể phân biệt giữa một người đầu hàng và một người không đầu hàng" dựa trên vị trí của tay họ hoặc nhận biết vị trí của vũ khí trong tay họ.

4. Trình diễn việc phát hiện một người lính đầu hàng bằng hệ thống Samsung SGR-1

Người Mỹ sợ bị bỏ lại phía sau

Hiện nay, có ít nhất 30 quốc gia trên thế giới sử dụng vũ khí tự động với các mức độ phát triển và sử dụng AI khác nhau. Trung Quốc, Nga và Mỹ coi trí tuệ nhân tạo là yếu tố không thể thiếu trong việc xây dựng vị thế tương lai của họ trên thế giới. “Ai chiến thắng trong cuộc đua AI sẽ thống trị thế giới”, Tổng thống Nga Vladimir Putin nói với các sinh viên vào tháng 2017/2030. Chủ tịch nước Cộng hòa Nhân dân Trung Hoa Tập Cận Bình đã không đưa ra những tuyên bố gây chú ý trên các phương tiện truyền thông, nhưng ông là động lực chính của chỉ thị kêu gọi Trung Quốc trở thành thế lực thống trị trong lĩnh vực AI vào năm XNUMX.

Ngày càng có nhiều lo ngại ở Hoa Kỳ về “hiệu ứng vệ tinh”, điều này cho thấy Hoa Kỳ đang thiếu trang bị để đáp ứng những thách thức mới do trí tuệ nhân tạo đặt ra. Và điều này có thể nguy hiểm cho hòa bình, nếu chỉ vì đất nước bị đe dọa bởi sự thống trị có thể muốn loại bỏ lợi thế chiến lược của kẻ thù bằng một cách khác, đó là bằng chiến tranh.

Mặc dù mục đích ban đầu của dự án Maven là giúp tìm kiếm các chiến binh IS của tổ chức Hồi giáo IS, nhưng ý nghĩa của nó đối với sự phát triển hơn nữa của các hệ thống trí tuệ nhân tạo quân sự là rất lớn. Chiến tranh điện tử dựa trên máy ghi âm, màn hình và cảm biến (bao gồm cả di động, bay) gắn liền với một số lượng lớn các luồng dữ liệu không đồng nhất, chỉ có thể được sử dụng hiệu quả với sự trợ giúp của các thuật toán AI.

Chiến trường lai đã trở thành phiên bản quân sự của IoT, giàu thông tin quan trọng để đánh giá các mối đe dọa và cơ hội chiến thuật và chiến lược. Có thể quản lý dữ liệu này trong thời gian thực mang lại lợi ích to lớn, nhưng việc không học được từ thông tin này có thể là một thảm họa. Khả năng xử lý nhanh chóng luồng thông tin từ các nền tảng khác nhau hoạt động trong nhiều lĩnh vực mang lại hai lợi thế quân sự chính: tốc độ i khả năng tiếp cận. Trí tuệ nhân tạo cho phép bạn phân tích các điều kiện động của chiến trường trong thời gian thực và tấn công một cách nhanh chóng và tối ưu, đồng thời giảm thiểu rủi ro cho lực lượng của chính bạn.

Chiến trường mới này cũng rất phổ biến và. AI là trung tâm của cái gọi là bầy đàn bay không người lái, đã nhận được rất nhiều sự chú ý trong những năm gần đây. Với sự trợ giúp của các cảm biến phổ biến, không chỉ cho phép máy bay không người lái điều hướng địa hình thù địch, mà cuối cùng có thể cho phép hình thành các đội hình phức tạp của nhiều loại máy bay không người lái hoạt động ở nhiều khu vực, với các vũ khí bổ sung cho phép các chiến thuật tác chiến tinh vi, ngay lập tức thích ứng với kẻ thù. diễn tập tận dụng trận địa và báo cáo tình hình thay đổi.

Những tiến bộ trong chỉ định và dẫn đường mục tiêu do AI hỗ trợ cũng đang cải thiện triển vọng về tính hiệu quả trong một loạt các hệ thống phòng thủ chiến thuật và chiến lược, đặc biệt là phòng thủ tên lửa, bằng cách cải thiện các phương pháp phát hiện, theo dõi và xác định mục tiêu.

không ngừng gia tăng sức mạnh của các mô phỏng và công cụ chơi game được sử dụng để nghiên cứu vũ khí hạt nhân và vũ khí thông thường. Mô hình hóa và mô phỏng hàng loạt sẽ là điều cần thiết để phát triển một hệ thống mục tiêu đa miền toàn diện để kiểm soát chiến đấu và các nhiệm vụ phức tạp. AI cũng làm phong phú thêm các tương tác đa bên (5). AI cho phép người chơi thêm và sửa đổi các biến trò chơi để khám phá xem các điều kiện năng động (vũ khí, sự tham gia của đồng minh, quân đội bổ sung, v.v.) có thể ảnh hưởng như thế nào đến hiệu suất và việc ra quyết định.

Đối với quân đội, nhận dạng đối tượng là điểm khởi đầu tự nhiên của AI. Đầu tiên, cần phân tích toàn diện và nhanh chóng về số lượng ngày càng tăng các hình ảnh và thông tin thu thập được từ vệ tinh và máy bay không người lái để tìm các đối tượng có ý nghĩa quân sự, chẳng hạn như tên lửa, chuyển quân và các dữ liệu liên quan đến tình báo khác. Ngày nay, chiến trường trải dài trên tất cả các cảnh quan — biển, đất liền, trên không, vũ trụ và không gian mạng — trên quy mô toàn cầu.

Không gian mạnglà một miền kỹ thuật số vốn có, nó tự nhiên phù hợp với các ứng dụng AI. Về mặt tấn công, AI có thể giúp tìm và nhắm mục tiêu các nút mạng riêng lẻ hoặc tài khoản cá nhân để thu thập, làm gián đoạn hoặc thông tin sai. Các cuộc tấn công mạng vào cơ sở hạ tầng nội bộ và mạng chỉ huy có thể là thảm họa. Về khía cạnh quốc phòng, AI có thể giúp phát hiện những sự xâm nhập như vậy và tìm ra những điểm bất thường có tính chất phá hoại trong các hệ điều hành dân sự và quân sự.

Tốc độ mong đợi và nguy hiểm

Tuy nhiên, việc đưa ra quyết định nhanh chóng và thực hiện nhanh chóng có thể không phục vụ tốt cho bạn. để quản lý khủng hoảng hiệu quả. Những lợi thế của trí tuệ nhân tạo và các hệ thống tự trị trên chiến trường có thể không cho phép ngoại giao, như chúng ta biết từ lịch sử, thường thành công như một phương tiện ngăn chặn hoặc quản lý một cuộc khủng hoảng. Trên thực tế, chậm lại, tạm dừng và dành thời gian đàm phán có thể là chìa khóa dẫn đến chiến thắng, hoặc ít nhất là ngăn chặn thảm họa, đặc biệt là khi vũ khí hạt nhân đang bị đe dọa.

Các quyết định về chiến tranh và hòa bình không thể phó mặc cho các phân tích dự đoán. Có những khác biệt cơ bản về cách dữ liệu được sử dụng cho các mục đích khoa học, kinh tế, hậu cần và dự đoán. đối nhân xử thế.

Một số người có thể coi AI là lực lượng làm suy yếu tính nhạy cảm chiến lược của nhau và do đó làm tăng nguy cơ chiến tranh. Dữ liệu bị hỏng vô tình hoặc cố ý có thể dẫn đến các hệ thống AI thực hiện các hành động ngoài ý muốn, chẳng hạn như xác định sai và nhắm mục tiêu sai. Tốc độ hành động được mặc định trong trường hợp các thuật toán chiến tranh phát triển có thể đồng nghĩa với việc leo thang sớm hoặc thậm chí không cần thiết cản trở việc quản lý hợp lý cuộc khủng hoảng. Mặt khác, các thuật toán cũng sẽ không chờ đợi và giải thích, bởi vì chúng cũng được mong đợi là nhanh.

Khía cạnh làm phiền hoạt động của các thuật toán trí tuệ nhân tạo cũng được chúng tôi trình bày gần đây trong MT. Ngay cả các chuyên gia cũng không biết chính xác cách AI dẫn đến kết quả mà chúng ta thấy trong đầu ra.

Trong trường hợp của các thuật toán chiến tranh, chúng ta không thể bỏ qua sự thiếu hiểu biết như vậy về tự nhiên và cách chúng "nghĩ" chúng. Chúng tôi không muốn thức dậy vào nửa đêm để bắn pháo sáng vì trí thông minh nhân tạo của "chúng tôi" hoặc "của họ" đã quyết định cuối cùng đã đến lúc giải quyết trò chơi.