Nội các kinh hoàng
Công nghệ

Nội các kinh hoàng

Sự trỗi dậy của máy móc và sự chiếm đoạt quyền lực của trí tuệ nhân tạo. Một thế giới hoàn toàn giám sát và kiểm soát xã hội. Chiến tranh hạt nhân và sự suy thoái của nền văn minh. Nhiều viễn cảnh đen tối về tương lai, được vẽ ra từ nhiều năm trước, lẽ ra đã xảy ra ngày hôm nay. Và trong khi đó chúng tôi nhìn lại và có vẻ như họ đã không ở đó. Bạn có chắc không?

Có một tiết mục khá khuôn mẫu của phổ biến những lời tiên tri lạc hậu (về viễn cảnh đen tối của tương lai). Ngoài những công nghệ phổ biến nhất liên quan đến sự tàn phá môi trường tự nhiên và tài nguyên, người ta tin rằng các công nghệ mới nhất đang làm tổn hại đến giao tiếp giữa các cá nhân, các mối quan hệ và xã hội.

Không gian ảo sẽ thay thế sự tham gia thực sự vào thế giới. Các quan điểm lạc hậu khác coi phát triển công nghệ là cách làm gia tăng bất bình đẳng xã hội, tập trung quyền lực và của cải vào tay các nhóm nhỏ. Những yêu cầu cao của công nghệ hiện đại tập trung kiến ​​thức và kỹ năng vào các vòng hẹp của những cá nhân có đặc quyền, tăng cường giám sát mọi người và phá hủy quyền riêng tư.

Theo nhiều nhà tương lai học, năng suất cao hơn và sự lựa chọn rõ ràng hơn có thể gây hại cho chất lượng cuộc sống của con người bằng cách gây ra căng thẳng, gây nguy hiểm cho việc làm và khiến chúng ta ngày càng quan tâm đến thế giới.

Một trong những "dystopians" công nghệ nổi tiếng, James Gleick, đưa ra một ví dụ có vẻ tầm thường về điều khiển từ xa của TV như một phát minh cổ điển không giải quyết được một vấn đề quan trọng nào, làm nảy sinh nhiều vấn đề mới. Gleick, trích dẫn một sử gia kỹ thuật Edward Tenner, viết rằng khả năng và sự dễ dàng chuyển kênh bằng điều khiển từ xa chủ yếu khiến người xem ngày càng mất tập trung.

Thay vì hài lòng, mọi người ngày càng không hài lòng với các kênh họ xem. Thay vì đáp ứng được nhu cầu là cảm giác hụt ​​hẫng vô tận.

Xe ô tô có giữ cho chúng tôi đặt trước không?

Liệu chúng ta có thể kiểm soát được điều không thể tránh khỏi và có thể sắp tới? Vượt qua trí tuệ nhân tạo? Nếu trường hợp này xảy ra, như nhiều khải tượng lạc hậu đã công bố, thì không. (1).

Thật khó để kiểm soát một thứ mạnh hơn chúng ta gấp nhiều lần. với sự gia tăng số lượng nhiệm vụ. Hai mươi năm trước, không ai có thể tin rằng họ có thể đọc được cảm xúc trong giọng nói và khuôn mặt của một người chính xác hơn nhiều so với việc chúng ta có thể tự mình làm được. Trong khi đó, các thuật toán được đào tạo hiện tại đã có khả năng thực hiện điều này, phân tích nét mặt, âm sắc và cách chúng ta nói.

Máy tính vẽ tranh, soạn nhạc, và một trong số chúng thậm chí còn chiến thắng trong cuộc thi thơ ở Nhật Bản. Họ đã đánh bại mọi người ở cờ vua trong một thời gian dài, học trò chơi từ đầu. Điều tương tự cũng áp dụng cho trò chơi cờ vây phức tạp hơn nhiều.

nó tuân theo quy luật gia tốc ngày càng nhanh. Những gì AI đã đạt được - với sự trợ giúp của con người - trong những thập kỷ qua sẽ tăng gấp đôi trong vài năm tới, có thể chỉ vài tháng, và sau đó sẽ chỉ mất vài tuần, vài ngày, vài giây…

Hóa ra gần đây, các thuật toán được sử dụng trong điện thoại thông minh hoặc tại sân bay để phân tích ảnh từ các máy ảnh phổ biến không chỉ có thể nhận ra ai đó trong các khung hình khác nhau mà còn xác định các đặc điểm tâm lý riêng biệt. Nói rằng đây là một rủi ro lớn về quyền riêng tư cũng giống như không nói gì. Đây không phải là việc theo dõi đơn giản, theo dõi từng bước, mà là về thông tin phát sinh do ngoại hình của một người, về những mong muốn và sở thích cá nhân tiềm ẩn của anh ta. 

Các thuật toán có thể học được điều này tương đối nhanh chóng bằng cách phân tích hàng trăm nghìn trường hợp, con số này nhiều hơn những gì một người sắc sảo nhất có thể nhìn thấy trong đời. Được trang bị nhiều kinh nghiệm như vậy, họ có thể quét một người chính xác hơn cả nhà tâm lý học, nhà phân tích ngôn ngữ cơ thể và cử chỉ giàu kinh nghiệm nhất.

Vì vậy, điều khó hiểu thực sự không phải là máy tính chơi cờ hay chống lại chúng ta, mà là chúng có thể nhìn thấy tâm hồn của chúng ta sâu hơn bất kỳ ai khác ngoài chính chúng ta, đầy rẫy những cấm đoán và ngăn cản trong việc nhận ra những điều đó hoặc những khuynh hướng khác.

Elon Musk tin rằng khi các hệ thống AI bắt đầu học hỏi và suy luận trên quy mô ngày càng tăng, thì "trí thông minh" có thể phát triển ở đâu đó sâu trong các lớp web, không thể nhận thấy đối với chúng tôi.

Theo một nghiên cứu của Mỹ được công bố vào năm 2016, trong 45 năm tới, trí tuệ nhân tạo có 50% cơ hội vượt qua con người trong mọi nhiệm vụ. Các nhà dự báo nói rằng có, AI sẽ giải quyết vấn đề ung thư, cải thiện và tăng tốc nền kinh tế, cung cấp giải trí, cải thiện chất lượng và thời gian sống, giáo dục chúng ta để chúng ta không thể sống thiếu nó, nhưng có thể một ngày nào đó, không hận thù, chỉ dựa trên tính toán logic, nó mới loại bỏ chúng ta. Có thể nó sẽ không hoạt động về mặt vật lý, bởi vì trong mỗi hệ thống, nó có giá trị lưu trữ, lưu trữ và lưu trữ các tài nguyên “có thể hữu ích vào một ngày nào đó”. Vâng, đây là tài nguyên chúng ta có thể dành cho AI. Nhân lực được bảo vệ?

Những người lạc quan tự an ủi bản thân rằng luôn có cơ hội rút phích cắm ra khỏi ổ cắm. Tuy nhiên, mọi thứ không đơn giản như vậy. Hiện tại, cuộc sống của con người đã trở nên phụ thuộc vào máy tính đến mức một bước đi triệt để chống lại chúng sẽ là một thảm họa đối với chúng ta.

Sau tất cả, chúng tôi đang ngày càng tạo ra các hệ thống ra quyết định dựa trên AI, trao cho chúng quyền lái máy bay, đặt lãi suất, vận hành các nhà máy điện - chúng tôi biết rằng các thuật toán sẽ làm điều đó tốt hơn chúng tôi nhiều. Đồng thời, chúng tôi không hiểu đầy đủ về cách thực hiện các quyết định kỹ thuật số này.

Có những lo ngại rằng các hệ thống chỉ huy siêu thông minh như "Giảm tắc nghẽn" có thể khiến họ kết luận rằng cách hiệu quả duy nhất để hoàn thành công việc là ... giảm dân số xuống một phần ba hoặc thậm chí một nửa.

Đúng vậy, đáng để cho chiếc máy hướng dẫn quan trọng nhất như “Trước hết, hãy cứu một mạng người!”. Tuy nhiên, ai biết được liệu logic kỹ thuật số sau đó sẽ dẫn đến việc giam cầm nhân loại hay dưới kho thóc, nơi chúng ta có thể an toàn, nhưng chắc chắn không được tự do.

Tội phạm mạng như một dịch vụ

Trong quá khứ, những hình ảnh lạc hậu và thế giới hậu tận thế trong văn học và điện ảnh thường lấy bối cảnh thời kỳ hậu hạt nhân. Ngày nay, sự hủy diệt hạt nhân dường như không cần thiết cho thảm họa và sự hủy diệt của thế giới như chúng ta biết, mặc dù không phải theo cách chúng ta tưởng tượng. , nó không có khả năng hủy diệt thế giới như trong "Kẻ hủy diệt", nơi nó được kết hợp với sự hủy diệt hạt nhân. Nếu cô ấy làm vậy, cô ấy sẽ không phải là một siêu trí tuệ, mà là một thế lực nguyên thủy. Rốt cuộc, ngay cả nhân loại cũng chưa nhận ra kịch bản toàn cầu về một cuộc xung đột hạt nhân tàn khốc.

Một ngày tận thế máy móc thực sự có thể ít ấn tượng hơn nhiều.

Chiến tranh mạng, tấn công bằng virus, hack hệ thống và ransomware, ransomware (2) làm tê liệt và phá hủy thế giới của chúng ta hiệu quả không kém gì bom đạn. Nếu quy mô của chúng mở rộng, chúng ta có thể bước vào một giai đoạn của cuộc chiến tổng lực, trong đó chúng ta sẽ trở thành nạn nhân và con tin của những cỗ máy, mặc dù chúng không bắt buộc phải hành động một cách tự chủ, và có thể con người vẫn đứng sau mọi thứ.

Mùa hè năm ngoái, Cơ quan An ninh mạng và An ninh Cơ sở hạ tầng Hoa Kỳ (CISA) đã gọi các cuộc tấn công ransomware là "mối đe dọa an ninh mạng dễ thấy nhất."

CISA tuyên bố rằng nhiều hoạt động trong đó tội phạm mạng chặn và mã hóa dữ liệu của một người hoặc tổ chức rồi tống tiền đòi tiền chuộc sẽ không bao giờ được báo cáo vì nạn nhân trả tiền cho tội phạm mạng và không muốn công khai các vấn đề với hệ thống không an toàn của họ. Ở cấp độ vi mô, tội phạm mạng thường nhắm vào những người lớn tuổi, những người gặp khó khăn trong việc phân biệt giữa nội dung trung thực và không trung thực trên Internet. Chúng thực hiện điều này với phần mềm độc hại được nhúng trong tệp đính kèm email hoặc cửa sổ bật lên trên trang web bị nhiễm. Đồng thời, các cuộc tấn công vào các tập đoàn lớn, bệnh viện, cơ quan chính phủ và chính phủ đang gia tăng.

Những kẻ thứ hai được nhắm mục tiêu đặc biệt vì dữ liệu nhạy cảm mà họ nắm giữ và khả năng trả tiền chuộc lớn.

Một số thông tin, chẳng hạn như thông tin sức khỏe, có giá trị hơn nhiều đối với chủ sở hữu so với những thông tin khác và có thể khiến tội phạm kiếm được nhiều tiền hơn. Kẻ trộm có thể đánh chặn hoặc cách ly các khối lớn dữ liệu lâm sàng quan trọng đối với việc chăm sóc bệnh nhân, chẳng hạn như kết quả xét nghiệm hoặc thông tin thuốc. Khi sự sống bị đe dọa, không có chỗ cho sự thương lượng trong bệnh viện. Một trong những bệnh viện của Mỹ đã đóng cửa vĩnh viễn vào tháng XNUMX năm ngoái sau vụ tấn công khủng bố hồi tháng XNUMX.

Nó có thể sẽ chỉ trở nên tồi tệ hơn theo thời gian. Năm 2017, Bộ An ninh Nội địa Hoa Kỳ thông báo rằng các cuộc tấn công mạng có thể nhắm vào cơ sở hạ tầng quan trọng như các tiện ích nước. Và các công cụ cần thiết để thực hiện các hành động như vậy ngày càng có sẵn cho các nhà khai thác nhỏ hơn, những người mà họ bán các gói ransomware như phần mềm Cerber và Petya và tính phí đòi tiền chuộc sau khi các cuộc tấn công thành công. Dựa trên tội phạm mạng như một dịch vụ.

Rối loạn nguy hiểm trong bộ gen

Một trong những chủ đề phổ biến của dystopia là di truyền, thao tác DNA và lai tạo của con người - ngoài ra, được "lập trình" theo đúng cách (chính quyền, tập đoàn, quân đội).

Phương án hiện đại của những lo lắng này là một phương pháp phổ biến Chỉnh sửa gen CRISPR (3). Các cơ chế nó chứa chủ yếu là mối quan tâm. buộc các chức năng mong muốn trong các thế hệ tiếp theo và tiềm năng của chúng lan rộng ra toàn bộ quần thể. Một trong những người phát minh ra kỹ thuật này, Jennifer Doudna, thậm chí gần đây đã kêu gọi tạm hoãn các kỹ thuật chỉnh sửa "vi trùng" như vậy do những hậu quả tai hại có thể xảy ra.

Nhớ lại rằng vài tháng trước, một nhà khoa học Trung Quốc He Jiankui đã bị chỉ trích rộng rãi vì đã chỉnh sửa gen của phôi người để tạo miễn dịch chống lại virus AIDS. Nguyên nhân là do những thay đổi mà anh ấy thực hiện có thể được truyền từ thế hệ này sang thế hệ khác với những hậu quả khó lường.

Mối quan tâm đặc biệt là cái gọi là d (ghi lại gen, ổ gen), tức là một cơ chế biến đổi gen mã hóa hệ thống chỉnh sửa trong DNA của một cá nhân nhất định Bộ gen CRISPR / CAS9 với việc thiết lập nó để chỉnh sửa biến thể của gen không mong muốn này. Do đó, các con cháu tự động (không có sự tham gia của các nhà di truyền học) ghi đè biến thể gen không mong muốn bằng biến thể mong muốn.

Tuy nhiên, một biến thể gen không mong muốn có thể được nhận bởi con cái "như một món quà" từ cha mẹ khác chưa được chỉnh sửa. Vì vậy, ổ gen hãy phá vỡ Quy luật di truyền Mendeltrong đó nói rằng một nửa số gen trội được chuyển đến đời con từ một cặp bố mẹ. Nói tóm lại, điều này cuối cùng sẽ dẫn đến sự lây lan của biến thể gen được đề cập đến toàn bộ dân số.

Nhà sinh vật học tại Đại học Stanford Christina Smolke, trở lại một hội thảo về kỹ thuật di truyền vào năm 2016, đã cảnh báo rằng cơ chế này có thể gây hại và trong những trường hợp nghiêm trọng là hậu quả kinh hoàng. Ổ gen có thể đột biến khi di chuyển qua nhiều thế hệ và gây ra các rối loạn di truyền như bệnh máu khó đông hoặc bệnh máu khó đông.

Như chúng ta đã đọc trong một bài báo đăng trên tạp chí Nature Reviews của các nhà nghiên cứu tại Đại học California, Riverside, ngay cả khi một ổ hoạt động như dự định ở một quần thể sinh vật, thì đặc điểm di truyền tương tự có thể gây hại nếu bằng cách nào đó nó được đưa vào quần thể khác. . cái nhìn giống nhau.

Ngoài ra còn có một mối nguy hiểm là các nhà khoa học tạo ra các ổ gen đằng sau những cánh cửa đóng kín và không có sự đánh giá của đồng nghiệp. Nếu ai đó cố ý hoặc vô ý đưa ổ gen có hại vào bộ gen của con người, chẳng hạn như ổ phá hủy khả năng chống lại bệnh cúm của chúng ta, thì điều đó thậm chí có thể có nghĩa là sự kết thúc của loài homo sapiens…

Chủ nghĩa tư bản giám sát

Một phiên bản lạc hậu mà các nhà văn khoa học viễn tưởng trước đây khó có thể tưởng tượng được là thực tế của Internet, và đặc biệt là mạng xã hội, với tất cả những phân nhánh được mô tả rộng rãi phá hủy sự riêng tư, các mối quan hệ và sự toàn vẹn tâm lý của con người.

Thế giới này chỉ được vẽ nên trong các buổi biểu diễn nghệ thuật mới hơn, chẳng hạn như những gì chúng ta có thể thấy trong loạt Gương đen trong tập phim "The Diving" (2016) năm 4. Shoshana Zuboff, một nhà kinh tế học của Harvard, gọi thực tế này hoàn toàn phụ thuộc vào sự tự khẳng định của xã hội và hoàn toàn bị “tước đoạt”. giám sát chủ nghĩa tư bản (), đồng thời là công việc lên ngôi của Google và Facebook.

4. Cảnh trong "Black Mirror" - tập "Diving"

Theo Zuboff, Google là nhà phát minh đầu tiên. Ngoài ra, nó không ngừng mở rộng các hoạt động giám sát của mình, chẳng hạn như thông qua các dự án thành phố thông minh dường như vô tội. Một ví dụ là dự án Khu dân cư sáng tạo nhất thế giới của Sidewalk Labs, một công ty con của Google. đê ở Toronto.

Google có kế hoạch thu thập tất cả dữ liệu nhỏ nhất về cuộc sống của cư dân ven sông, chuyển động và thậm chí là nhịp thở của họ với sự trợ giúp của các cảm biến giám sát phổ biến.

Cũng rất khó để chọn ra một lỗi Internet không nằm ngoài câu hỏi trên Facebook. Chủ nghĩa tư bản giám sát có thể do Google phát minh ra, nhưng chính Facebook đã đưa nó lên một tầm cao mới. Điều này được thực hiện thông qua các cơ chế lan truyền xã hội và cảm xúc và sự ngược đãi tàn nhẫn đối với ngay cả những người không phải là người dùng của nền tảng Zuckerberg.

AI được bảo vệ, đắm chìm trong thực tế ảo, sống cùng UBI

Theo nhiều nhà tương lai học, tương lai của thế giới và công nghệ được chỉ định bằng năm chữ viết tắt - AI, AR, VR, BC và UBI.

Độc giả của "MT" có lẽ biết rõ chúng là gì và ba phần đầu bao gồm những gì. Cái quen thuộc cũng trở thành cái thứ tư, "BC", khi chúng ta hiểu nó nói về cái gì. Và thứ năm? UBD là từ viết tắt của khái niệm, có nghĩa là "thu nhập cơ bản phổ cập » (5). Đây là một lợi ích công cộng, được công nhận theo thời gian, sẽ được trao cho mỗi người được giải phóng khỏi công việc khi các công nghệ khác phát triển, đặc biệt là AI.

5. Thu nhập cơ bản chung - UBI

Thụy Sĩ thậm chí đã đưa ý tưởng này đến một cuộc trưng cầu dân ý vào năm ngoái, nhưng công dân của họ đã bác bỏ nó, vì lo ngại rằng việc đưa ra thu nhập đảm bảo sẽ dẫn đến một làn sóng nhập cư. UBI cũng mang theo một số nguy cơ khác, bao gồm nguy cơ kéo dài sự bất bình đẳng xã hội hiện có.

Mỗi cuộc cách mạng công nghệ đằng sau từ viết tắt (xem thêm:) - nếu nó lan rộng và phát triển theo hướng mong đợi - đều gây ra những hậu quả to lớn cho nhân loại và thế giới của chúng ta, tất nhiên, bao gồm cả một lượng lớn chứng loạn thị. Ví dụ, người ta tin rằng nó có thể thay thế chu kỳ bầu cử bốn năm và dẫn đến các cuộc trưng cầu dân ý về vô số vấn đề.

Đến lượt mình, thực tế ảo có thể "loại trừ" một phần nhân loại khỏi thế giới thực. Ví dụ như đã xảy ra với Jang Ji-sun người Hàn Quốc, người sau cái chết của con gái mình vào năm 2016 vì căn bệnh nan y, kể từ đó đã gặp hình đại diện của cô ấy trong VR. Không gian ảo cũng tạo ra các loại vấn đề mới, hoặc thực sự chuyển tất cả các vấn đề cũ đã biết sang thế giới "mới", hoặc thậm chí đến nhiều thế giới khác. Ở một mức độ nào đó, chúng ta đã có thể thấy điều này trên mạng xã hội, nơi mà quá ít lượt thích trên các bài đăng sẽ dẫn đến trầm cảm và tự tử.

Những câu chuyện tiên tri ít nhiều

Xét cho cùng, lịch sử của việc tạo ra các tầm nhìn viễn vông cũng dạy cho bạn sự cẩn trọng trong việc xây dựng các dự đoán.

6. Bìa của "Quần đảo trong lưới"

Được quay vào năm ngoái là kiệt tác khoa học viễn tưởng nổi tiếng của Ridley Scottthợ săn android»Kể từ năm 1982. Có thể thảo luận về sự ứng nghiệm hay không của nhiều yếu tố cụ thể, nhưng không thể chối cãi rằng lời tiên tri quan trọng nhất về sự tồn tại trong thời đại của chúng ta những người máy thông minh, hình người, về nhiều mặt vượt trội hơn con người, vẫn chưa trở thành hiện thực.

Chúng tôi sẽ sẵn sàng chấp nhận nhiều cú đánh tiên tri hơn nữa. "Thuốc thần kinh »tức là tiểu thuyết William Gibson từ năm 1984, người đã phổ biến khái niệm "không gian mạng".

Tuy nhiên, trong thập kỷ đó, một cuốn sách ít nổi tiếng hơn một chút đã xuất hiện (gần như hoàn toàn ở nước ta, vì nó không được dịch sang tiếng Ba Lan), nó dự đoán thời gian ngày nay chính xác hơn nhiều. Tôi đang nói về sự lãng mạnQuần đảo trên web"(6) Bruce Sterling từ năm 1988, lấy bối cảnh năm 2023. Nó giới thiệu một thế giới đắm chìm trong một thứ tương tự như Internet, được gọi là "web". Nó được kiểm soát bởi các tập đoàn quốc tế lớn. "Các đảo trên mạng" đáng chú ý ở chỗ chúng cung cấp quyền kiểm soát, giám sát và độc quyền của Internet được cho là miễn phí.

Cũng rất thú vị khi thấy trước các hoạt động quân sự được thực hiện bằng cách sử dụng máy bay không người lái (máy bay không người lái) chống lại bọn cướp biển / khủng bố trực tuyến. Các nhà khai thác cách xa hàng nghìn dặm với máy tính để bàn an toàn - làm sao chúng ta biết được điều đó? Cuốn sách không nói về cuộc xung đột bất tận với chủ nghĩa khủng bố Hồi giáo, mà nói về cuộc đấu tranh chống lại các thế lực phản đối toàn cầu hóa. Thế giới của Islands in the Net cũng tràn ngập các thiết bị tiêu dùng trông rất giống đồng hồ thông minh và giày thể thao thông minh.

Có một cuốn sách khác từ những năm 80, mặc dù một số sự kiện có vẻ kỳ quái hơn, nhưng đã minh họa rất tốt những nỗi sợ hãi lạc hậu thời hiện đại của chúng ta. Cái này "Phần mềm Georadar", Lịch sử Rudy Rookerthiết lập vào năm 2020. Thế giới, thực trạng xã hội và những xung đột của nó dường như vô cùng giống với những gì chúng ta đang đối phó ngày nay. Ngoài ra còn có những người máy được gọi là boppers đã tự nhận thức được bản thân và trốn thoát đến các thành phố trên mặt trăng. Yếu tố này vẫn chưa thành hiện thực, nhưng cuộc nổi dậy của máy móc đang trở thành một biện pháp không ngừng cho những dự đoán đen.

Những hình ảnh về thời đại của chúng ta trong sách cũng chính xác một cách đáng kinh ngạc theo nhiều cách. Octavia Butler, đặc biệt là trongDụ ngôn về người gieo giống»(1993). Hành động bắt đầu vào năm 2024 tại Los Angeles và diễn ra ở California, bị tàn phá bởi lũ lụt, bão và hạn hán do biến đổi khí hậu. Các gia đình thuộc tầng lớp trung lưu và lao động gặp nhau trong các cộng đồng được kiểm soát khi họ cố gắng thoát ra thế giới bên ngoài bằng các loại thuốc gây nghiện và bộ dụng cụ thực tế ảo. Các tôn giáo mới và các thuyết âm mưu đang xuất hiện. Đoàn người tị nạn tiến về phía bắc để tránh sự sụp đổ về hệ sinh thái và xã hội. Một tổng thống lên nắm quyền sử dụng khẩu hiệu tranh cử "Làm cho nước Mỹ vĩ đại trở lại" (đây là khẩu hiệu của Donald Trump) ...

Cuốn sách thứ hai của Butler, "Dụ ngôn về những tài năngkể về cách các thành viên của một giáo phái tôn giáo mới rời Trái đất trên một con tàu vũ trụ để đến thuộc địa của Alpha Centauri.

***

Bài học từ cuộc khảo sát mở rộng này về những dự đoán và tầm nhìn được thực hiện cách đây vài thập kỷ liên quan đến cuộc sống hàng ngày của chúng ta là gì?

Có thể, thực tế là chứng loạn thần xảy ra thường xuyên, nhưng hầu hết chỉ một phần.

Thêm một lời nhận xét