恐怖內閣

機器的崛起和人工智能奪取權力。 一個全面監視和社會控制的世界。 核戰爭與文明的墮落。 許多年前描繪的對未來的黑暗願景，今天就應該發生。 與此同時，我們回頭一看，他們似乎並不在那裡。 你確定嗎？

有一個相當刻板的流行曲目 反烏托邦預言 （關於未來的黑人願景）。 除了與自然環境和資源破壞相關的最常見問題外，人們普遍認為最新技術正在破壞人際溝通、人際關係和社會。

虛擬空間將取代真實的世界參與。 其他反烏托邦觀點將技術發展視為加劇社會不平等、將權力和財富集中在小群體手中的一種方式。 現代技術的高要求將知識和技能集中在特權個人的狹小圈子中，增加了對人們的監視並破壞了隱私。

許多未來學家認為，更高的生產力和更多的可見選擇可能會造成壓力、危及工作並使我們對世界變得越來越物質化，從而損害人類的生活質量。

著名的科技“反烏托邦”之一， 詹姆斯·格萊克舉了一個看似微不足道的例子，電視遙控器作為一項經典發明，並沒有解決一個重大問題，反而引發了許多新問題。 格萊克（Gleick）引用一位技術歷史學家的話 愛德華·坦納，寫道，使用遙控器切換頻道的可能性和簡單性主要是為了越來越分散觀眾的注意力。

人們對他們觀看的頻道越來越不滿意，而不是滿意。 需求不但沒有得到滿足，反而有一種無盡的失望感。

汽車會讓我們保留預訂嗎？

我們能夠控制這個不可避免且可能即將發生的事情嗎？ 超越人工智能？ 如果情況確實如此，正如許多反烏托邦願景所宣稱的那樣，那麼就不會。 （1）。

控制比我們強很多倍的東西是很困難的。 隨著任務數量的增加。 二十年前，沒有人會相信他們能夠比我們自己更準確地從一個人的聲音和表情中解讀情感。 與此同時，目前訓練有素的算法已經能夠做到這一點，分析面部表情、音色和我們說話的方式。

計算機可以畫畫、作曲，其中一台計算機甚至贏得了日本的詩歌比賽。 他們長期以來一直在國際象棋中打敗別人，從頭開始學習這項遊戲。 這同樣適用於更為複雜的圍棋遊戲。

它遵循加速度越來越快的規律。 人工智能在人類的幫助下在過去幾十年中所取得的成就將在未來幾年內翻一番，也許只是幾個月，然後只需要幾週、幾天、幾秒鐘……

最近的事實證明，智能手機或機場使用的算法來分析無處不在的相機拍攝的照片，不僅可以識別不同畫面中的某人，還可以專門確定親密的心理特徵。 說這是一個巨大的隱私風險就等於什麼也沒說。 這不是簡單的監視，監視每一步，而是從一個人的外表中產生的信息，關於他隱藏的慾望和個人喜好。 

算法可以通過分析數十萬個案例來相對快速地學習這一點，這遠遠超過了最精明的人一生中所能看到的數量。 憑藉如此豐富的經驗，他們能夠比最有經驗的心理學家、肢體語言和手勢分析師更準確地掃描一個人。

因此，真正令人毛骨悚然的反烏托邦不是計算機下棋或與我們作對，而是它們比我們自己以外的任何人都能更深入地了解我們的靈魂，在識別這些或其他傾向時充滿了禁令和障礙。

埃隆·馬斯克 相信隨著人工智能係統開始以不斷擴大的規模學習和推理，“智能”可能會在某個地方發展 深入網絡層，我們察覺不到。

美國2016年發表的一項研究顯示，未來45年，人工智能在所有任務上有50%的機會超越人類。 預測者說，是的，人工智能將解決癌症問題，改善和加速經濟發展，提供娛樂，提高生活質量和壽命，教育我們，使我們不能沒有它而生活，但有可能有一天，如果沒有它仇恨，只是基於邏輯計算，它只是把我們除掉。 也許在物理上它不起作用，因為在每個系統中都值得保存、歸檔和存儲“有一天可能會派上用場”的資源。 是的，這就是我們可以為人工智能提供的資源。 保護人力？

樂觀主義者用這樣的事實來安慰自己：總有機會把插頭從插座上拔下來。 然而，一切並沒有那麼簡單。 人類生活已經變得如此依賴計算機，徹底反對計算機對我們來說將是一場災難。

畢竟，我們越來越多地創建基於人工智能的決策系統，賦予他們駕駛飛機、設定利率、運營發電廠的權利——我們知道算法會比我們做得更好。 與此同時，我們並不完全了解這些數字決策是如何做出的。

有人擔心，“減少擁堵”等超級智能指揮系統可能會讓他們得出結論，完成任務的唯一有效方法是……將人口減少三分之一甚至一半。

是的，值得給機器最重要的指令，比如“首先，拯救一個人的生命！”。 然而，誰知道數字邏輯是否會導致人類被監禁或被關在穀倉下，在那裡我們可能是安全的，但肯定不是自由的。

網絡犯罪即服務

過去，文學和電影中的反烏托邦和後世界末日的形象通常發生在後核時代。 今天，核毀滅對於我們所知道的世界的災難和毀滅似乎不是必需的，儘管不是我們想像的那樣。 ，它不太可能像《終結者》那樣毀滅世界，在那裡它與核毀滅相結合。 如果她這樣做，她就不是超級智能，而是原始力量。 畢竟，即使是人類也還沒有意識到毀滅性核衝突的全球情景。

真正的機器末日可能不會那麼令人印象深刻。

網絡戰、病毒攻擊、系統黑客攻擊和勒索軟件，勒索軟件（2）使我們的世界癱瘓和毀滅的效果不亞於炸彈。 如果它們的規模擴大，我們可能會進入全面戰爭的階段，我們將成為機器的受害者和人質，儘管機器並不需要自主行動，而且一切的幕後黑手仍然可能是人。

去年夏天，美國網絡和基礎設施安全局（CISA）將勒索軟件攻擊稱為“最明顯的網絡安全威脅”。

CISA 聲稱，網絡犯罪分子攔截和加密個人或組織的數據，然後勒索贖金的許多活動從未被報告，因為受害者向網絡犯罪分子支付費用，並且不願意公開其不安全系統的問題。 在微觀層面上，網絡犯罪分子通常針對難以區分互聯網上誠實和不誠實內容的老年人。 他們通過電子郵件附件中嵌入的惡意軟件或受感染網站上的彈出窗口來執行此操作。 與此同時，針對大公司、醫院、政府機構和政府的攻擊也在增加。

後者尤其成為攻擊目標，因為它們持有敏感數據並且有能力支付大筆贖金。

有些信息，例如健康信息，對所有者來說比其他信息更有價值，並且可以讓犯罪分子賺到更多錢。 竊賊可以攔截或隔離對患者護理很重要的大量臨床數據，例如測試結果或藥物信息。 當生命受到威脅時，醫院裡沒有任何討價還價的餘地。 去年XNUMX月發生恐怖襲擊後，美國一家醫院於去年XNUMX月永久關閉。

隨著時間的推移，情況可能只會變得更糟。 2017 年，美國國土安全部宣佈網絡攻擊可能針對供水設施等關鍵基礎設施。 越來越多的小型運營商可以使用執行此類行動所需的工具，他們向這些運營商出售 Cerber 和 Petya 軟件等勒索軟件捆綁包，並在攻擊成功後收取贖金。 基於網絡犯罪即服務。

基因組中的危險紊亂

反烏托邦的熱門話題之一是遺傳學、DNA 操縱和人類育種——此外，以正確的方式“編程”（當局、公司、軍隊）。

這些焦慮的現代體現是一種大眾化的方法 CRISPR基因編輯 （3）。 它所包含的機制是主要令人關注的。 強制所需的功能 在後代中及其傳播到全體人口的潛力。 這項技術的發明者之一， 詹妮弗·杜德娜由於潛在的災難性後果，甚至最近還呼籲暫停這種“種系”編輯技術。

還記得幾個月前，一位中國科學家 何建奎 由於編輯人類胚胎基因以使人類胚胎免疫艾滋病病毒而受到廣泛批評。 因為他所做的改變可能會代代相傳，帶來不可預測的後果。

特別值得關注的是所謂的d（基因重寫，基因驅動），即一種基因工程機制，可在特定個體的 DNA 中編碼編輯系統 CRISPR/CAS9基因組 將其設置為編輯不需要的基因的變體。 因此，後代會自動（無需遺傳學家的參與）用所需的基因變異覆蓋不需要的基因變異。

然而，不良基因變異可能會被後代從未經修飾的另一方父母那裡“作為禮物”接受。 所以基因驅動讓我們打破 孟德爾遺傳定律這表明一半的顯性基因來自父母之一的後代。 簡而言之，這最終將導致相關基因變異傳播到整個人群。

斯坦福大學生物學家 克里斯蒂娜·斯莫克在 2016 年的基因工程小組會議上，他警告說，這種機制可能會產生有害的後果，在極端情況下甚至會產生可怕的後果。 基因驅動能夠在代代相傳時發生突變，並導致遺傳性疾病，例如血友病或血友病。

正如我們在加州大學河濱分校的研究人員在《自然評論》上發表的一篇文章中讀到的那樣，即使一種驅動力在一個生物體群體中按預期發揮作用，如果相同的遺傳性狀以某種方式引入另一個群體，也可能是有害的。 。 一樣的樣子。

科學家們在未經同行評審的情況下秘密創造基因驅動器也存在危險。 如果有人有意或無意地將有害的基因驅動引入人類基因組，例如破壞我們對流感的抵抗力的基因驅動，它甚至可能意味著智人物種的終結......

監視資本主義

前科幻作家幾乎無法想像的反烏托邦的一個版本是互聯網的現實，尤其是社交媒體，其廣泛描述的所有後果都破壞了人們的隱私、人際關係和心理完整性。

這個世界只是在較新的藝術表演中描繪出來的，比如我們可以在 2016 年《黑鏡》系列的劇集“跳水”(4) 中看到的內容。 肖莎娜·祖博夫哈佛大學經濟學家稱這種現實完全依賴於社會自我肯定，並且完全“被剝奪了”。 監視資本主義 ()，同時也是Google和Facebook的頂峰之作。

4.《黑鏡》中的場景——“跳水”集

據祖波夫稱，谷歌是第一個發明者。 此外，它還不斷擴大其監視活動，例如通過看似無辜的“智慧城市”項目。 一個例子是 Google 子公司 Sidewalk Labs 的“世界上最具創新性的社區”項目。 碼頭 在多倫多。

谷歌計劃借助無處不在的監控傳感器來收集有關海濱居民的生活、運動甚至呼吸的所有最小數據。

很難選出一個在 Facebook 上不可能出現的互聯網反烏托邦。 監控資本主義可能是谷歌發明的，但 Facebook 將其提升到了一個全新的水平。 這是通過社會和情感病毒機制以及對那些不是紮克伯格平台用戶的人的殘酷迫害來實現的。

守護AI，沉浸虛擬現實，與UBI共存

許多未來學家認為，世界和技術的未來由五個縮寫來表示：AI、AR、VR、BC 和 UBI。

“MT”的讀者可能很清楚它們是什麼以及前三個由什麼組成。 當我們理解它的含義時，熟悉的也是第四個“BC”。 那麼第五個呢？ UBD是這個概念的縮寫，意思是“全民基本收入 » （5）。 這是一項不時提出的公共福利，隨著其他技術（尤其是人工智能）的發展，每個從工作中解脫出來的人都會享受到這一福利。

5.全民基本收入——UBI

瑞士去年甚至將這一想法提交全民公投，但其公民拒絕了，擔心引入保障收入會導致移民大量湧入。 全民基本收入還帶來了許多其他危險，包括使現有社會不平等現象長期存在的風險。

首字母縮略詞背後的每一次技術革命（另見：）——如果它在預期的方向上傳播和發展——都會對人類和我們的世界產生巨大的影響，當然，包括大量的反烏托邦。 例如，人們認為它可以取代四年的選舉週期，並導致對無數問題進行全民公決。

反過來，虛擬現實能夠將部分人類從現實世界中“排除”。 例如，韓國人張智成（Jang Ji Sung）的女兒於 2016 年因不治之症去世後，她在 VR 中見到了她的化身。 虛擬空間也創造了新的問題，或者實際上將所有舊的已知問題轉移到“新”世界，甚至轉移到許多其他世界。 在某種程度上，我們已經可以在社交網絡中看到這一點，帖子上的點贊太少會導致抑鬱和自殺。

或多或少都是預言故事

畢竟，反烏托邦願景的創造歷史也教會我們在製定預測時要謹慎。

6.《網絡孤島》封面

去年拍攝的是雷德利·斯科特的著名科幻傑作機器人獵人» 自 1982 年以來。 可以討論許多具體要素的實現與否，但無可爭議的是，關於我們這個時代存在智能人形機器人（在許多方面優於人類）的最重要的預言尚未成為現實。

我們將準備好承受更多的預言性打擊。”神經漫遊者»即小說 威廉·吉布森 自1984年起，他普及了“網絡空間”的概念。

然而，在那十年裡，出現了一本不太出名的書（幾乎完全在我們國家，因為它沒有翻譯成波蘭語），它預測今天的時間要準確得多。 我在談論浪漫網絡上的島嶼«(6) 布魯斯·斯特林 自1988年起，定於2023年。 它呈現了一個沉浸在類似於互聯網（稱為“網絡”）的世界中。 它由大型國際公司控制。 “網絡上的島嶼”之所以引人注目，是因為它們提供了對所謂自由互聯網的控制、監視和壟斷。

預計使用無人駕駛飛行器（無人機）針對網絡盜版/恐怖分子進行的戰鬥行動也很有趣。 遠在千里之外的操作員擁有安全的桌面 - 我們如何知道這一點？ 這本書不是關於與伊斯蘭恐怖主義無休止的衝突，而是關於與反對全球化勢力的鬥爭。 《網絡之島》的世界裡也充滿了看起來很像智能手錶和智能運動鞋的消費設備。

還有另一本 80 年代的書，雖然其中一些事件看起來更奇幻，但很好地說明了我們現代的反烏托邦恐懼。 這 ”地雷達軟件“， 歷史 魯迪·魯克設定於2020年。 這個世界、社會狀況及其衝突似乎與我們今天所面臨的情況極其相似。 還有一些被稱為 boppers 的機器人已經獲得了自我意識並逃到了月球上的城市。 這一元素尚未實現，但機器的反抗正在成為黑色預言的不斷重複。

書中對我們這個時代的願景在很多方面也極其準確。 奧克塔維亞·巴特勒，特別是在撒種的比喻》（1993）。 該活動於 2024 年在洛杉磯開始，並在遭受氣候變化引起的洪水、風暴和乾旱破壞的加利福尼亞州舉行。 中產階級和工人階級家庭在封閉的社區裡聚會，試圖用成癮藥物和虛擬現實套件逃離外面的世界。 新的宗教和陰謀論正在出現。 難民大篷車向北行駛，以避免生態和社會崩潰。 一位總統上台時使用的競選口號是“讓美國再次偉大”（這是唐納德·特朗普的口號）......

巴特勒的第二本書，“才幹的比喻講述了一個新宗教邪教的成員如何乘坐宇宙飛船離開地球，前往半人馬座阿爾法星殖民。

***

這項對幾十年前對我們日常生活的預測和願景進行的廣泛調查給我們帶來了什麼教訓？

事實可能是，反烏托邦經常發生，但大多數情況下只是部分發生。