恐怖内阁

机器的崛起和人工智能夺取权力。 一个完全监视和社会控制的世界。 核战争和文明的退化。 许多年前描绘的未来黑暗景象，本应在今天发生。 与此同时，我们回头看，似乎他们不在那里。 你确定吗？

流行的曲目相当陈旧 反乌托邦预言 （关于未来的黑人愿景）。 除了与破坏自然环境和资源相关的最常见技术外，人们普遍认为最新技术正在破坏人际交流、人际关系和社会。

虚拟空间将欺骗性地取代对世界的真实参与。 其他反乌托邦观点将技术发展视为加剧社会不平等、将权力和财富集中在小群体手中的一种方式。 现代技术的高要求将知识和技能集中在特权个人的狭窄圈子中，增加了对人们的监视并破坏了隐私。

许多未来学家认为，更高的生产力和更多可见的选择会造成压力，危及工作，并使我们对世界越来越物质化，从而损害人类生活质量。

著名的科技“反乌托邦”之一， 詹姆斯·格莱克，给出了一个看似微不足道的电视遥控器示例，它是一项经典发明，并未解决任何重大问题，却引发了许多新问题。 Gleick，引用一位技术历史学家的话 爱德华·坦纳, 写道，使用遥控器切换频道的能力和便利性主要是为了越来越多地分散观众的注意力。

人们对他们观看的频道越来越不满意，而不是满意。 没有满足需求，反而有一种无尽的失望感。

汽车会让我们保持预订吗？

我们能否控制这件不可避免且可能即将到来的事情？ 超过人工智能？ 如果情况确实如此，正如许多反乌托邦愿景所宣称的那样，那么不会。 （1）。

比我们强很多倍的东西，很难控制。 随着任务数量的增加。 XNUMX 年前，没有人会相信他们能比我们自己更准确地从一个人的声音和面部中读出情绪。 同时，目前训练有素的算法已经能够做到这一点，分析面部表情、音色和我们说话的方式。

计算机绘图、作曲，其中一台甚至赢得了日本的诗歌比赛。 他们在国际象棋中打人已久，从零开始学习。 这同样适用于更复杂的围棋游戏。

它遵循更快的加速度定律。 在人类的帮助下，人工智能在过去几十年中所取得的成就将在未来几年翻一番，也许只需几个月，然后只需要几周、几天、几秒钟……

最近发现，智能手机或机场用于分析无处不在的相机照片的算法不仅可以识别不同帧中的人，还可以确定私密的心理特征。 说这是一个巨大的隐私风险就像什么都没说。 这不是简单的监视，监视每一步，而是关于一个人的外表所产生的信息，关于他隐藏的欲望和个人喜好。 

算法可以通过分析数十万个案例相对快速地学习这一点，这远远超过即使是最精明的人一生所能看到的。 凭借如此丰富的经验，他们能够比最有经验的心理学家、肢体语言和手势分析师更准确地扫描一个人。

所以真正令人毛骨悚然的反乌托邦不是计算机下棋或与我们作对，而是它们比我们以外的任何人都能更深入地看到我们的灵魂，在识别这些或其他倾向时充满了禁令和障碍。

埃隆面具 相信随着人工智能系统开始以越来越大的规模学习和推理，“智能”可能会在某个地方发展 深入网络层，我们无法察觉。

根据美国 2016 年发表的一项研究，在未来 45 年内，人工智能在所有任务中都有 50% 的机会超过人类。 预测者说，是的，人工智能将解决癌症问题，改善和加速经济，提供娱乐，提高生活质量和寿命，教育我们，让我们不能没有它，但有可能有一天，没有仇恨，只是为了根据逻辑计算，它只是消除了我们。 也许它不会在物理上起作用，因为在每个系统中，都值得保存、归档和存储“有一天可能会派上用场”的资源。 是的，这是我们可以为 AI 提供的资源。 受保护的人力？

乐观主义者安慰自己总是有机会将插头从插座中拔出。 然而，一切并非如此简单。 人类生活已经变得如此依赖计算机，以至于对它们采取激进措施对我们来说将是一场灾难。

毕竟，我们越来越多地创建基于人工智能的决策系统，赋予他们驾驶飞机、设定利率、运行发电厂的权利——我们知道算法会比我们做得更好。 同时，我们并不完全了解这些数字决策是如何做出的。

有人担心“减少拥堵”等超级智能指挥系统可能会让他们得出结论，完成工作的唯一有效方法是……将人口减少三分之一甚至一半。

是的，值得给机器一个最重要的指令，比如“首先，拯救一个人的生命！”。 然而，谁知道那时的数字逻辑是否会导致人类被囚禁或谷仓之下，在那里我们可能是安全的，但肯定不是自由的。

网络犯罪即服务

过去，文学和电影中的反乌托邦和后世界末日的形象通常发生在后核时代。 今天，核毁灭对于我们所知道的世界的灾难和毁灭来说似乎不是必需的，尽管不是我们想象的那样。 ，它不太可能像《终结者》那样毁灭世界，在那里它与核毁灭相结合。 如果她这样做，她就不是超级智能，而是原始力量。 毕竟，即使是人类也还没有意识到毁灭性核冲突的全球情景。

真正的机器启示录可能不会那么令人印象深刻。

网络战，病毒攻击，系统黑客和勒索软件，勒索软件（2）瘫痪和摧毁我们的世界不亚于炸弹。 如果它们的规模扩大，我们可能会进入全面全面战争的阶段，我们将成为机器的受害者和人质，尽管它们不需要自主行动，而且可能仍然有人在背后支持一切。

去年夏天，美国网络安全和基础设施安全局 (CISA) 将勒索软件攻击称为“最明显的网络安全威胁”。

CISA 声称，网络犯罪分子截获并加密个人或组织的数据然后勒索赎金的许多活动从未被报告，因为受害者向网络犯罪分子付款并且不愿意公开其不安全系统的问题。 在微观层面上，网络犯罪分子通常针对难以区分互联网上诚实和不诚实内容的老年人。 他们使用嵌入在电子邮件附件或受感染网站上的弹出窗口中的恶意软件来执行此操作。 与此同时，针对大公司、医院、政府机构和政府的攻击也在增加。

后者因为他们持有的敏感数据和支付大笔赎金的能力而特别受到攻击。

一些信息，例如健康信息，对所有者来说比其他信息更有价值，可以让犯罪分子赚更多的钱。 窃贼可以拦截或隔离对患者护理很重要的大量临床数据，例如测试结果或药物信息。 当生命危在旦夕时，医院里没有商量的余地。 去年 XNUMX 月，在 XNUMX 月的恐怖袭击事件发生后，其中一家美国医院被永久关闭。

随着时间的推移，情况可能只会变得更糟。 2017 年，美国国土安全部宣布，网络攻击可能针对关键基础设施，如供水设施。 执行此类行动所需的工具越来越多地可供小型运营商使用，他们向这些运营商出售 Cerber 和 Petya 软件等勒索软件捆绑包，并在成功攻击后收取赎金。 基于网络犯罪即服务。

基因组中的危险疾病

反乌托邦的热门话题之一是遗传学、DNA 操纵和人的繁殖——此外，以正确的方式“编程”（当局、公司、军队）。

这些焦虑的现代体现是一种大众化的方法 CRISPR基因编辑 (3)。 它所包含的机制主要受到关注。 强制所需的功能 在后代及其潜在的传播到整个人口。 该技术的发明者之一， 詹妮弗·杜德纳，甚至最近由于潜在的灾难性后果而呼吁暂停这种“种系”编辑技术。

回想几个月前，一位中国科学家 何建奎 因编辑人类胚胎的基因以使它们免疫艾滋病病毒而受到广泛批评。 原因是他所做的改变可能会代代相传，带来不可预测的后果。

特别值得关注的是所谓的 d（基因重写，基因驱动），即一种基因工程机制，可在特定个体的 DNA 中编码编辑系统 CRISPR/CAS9 基因组 将其设置为编辑不需要的基因的这种变体。 因此，后代会自动（没有遗传学家的参与）用所需的基因变体覆盖不需要的基因变体。

然而，一个不受欢迎的基因变异可以被后代从未经修饰的其他父母那里“作为礼物”接收。 所以基因驱动让我们打破 孟德尔遗传定律这表明一半的显性基因来自一位父母的后代。 简而言之，这最终将导致相关基因变异传播到整个人群。

斯坦福大学生物学家 克里斯蒂娜·斯莫尔克回到 2016 年的基因工程小组，他警告说，这种机制可能会产生有害的，在极端情况下会产生可怕的后果。 基因驱动能够在代代相传时发生突变并导致遗传疾病，例如血友病或血友病。

正如我们在加州大学河滨分校的研究人员在《自然评论》上发表的一篇文章中所读到的，即使驱动器在一个有机体种群中按预期工作，如果以某种方式将相同的遗传特征引入另一个种群，它也可能是有害的。 . 同样的样子。

科学家们在没有同行评审的情况下在闭门造车的情况下创造基因驱动也存在危险。 如果有人有意或无意地将有害基因驱动引入人类基因组，例如破坏我们对流感的抵抗力的基因驱动，它甚至可能意味着智人物种的终结……

监视资本主义

前科幻作家几乎无法想象的反乌托邦版本是互联网的现实，尤其是社交媒体，其所有广泛描述的后果破坏了人们的隐私、人际关系和心理完整性。

这个世界只被描绘在较新的艺术表演中，例如我们在 2016 年剧集“潜水”（4）中的黑镜系列中看到的。 肖莎娜·祖波夫哈佛经济学家称这种现实完全依赖于社会的自我肯定，完全“被剥夺了”。 监视资本主义 ()，同时也是谷歌和 Facebook 的加冕之作。

4. 《黑镜》中的场景——插曲“潜水”

据祖博夫说，谷歌是第一个发明者。 此外，它还在不断扩大其监控活动，例如通过看似无辜的“智慧城市”项目。 一个例子是谷歌子公司 Sidewalk Labs 的世界上最具创新性的社区项目。 码头 在多伦多。

谷歌计划借助无处不在的监测传感器收集有关海滨居民生活、他们的运动甚至呼吸的所有最小数据。

在 Facebook 上也很难选择一个不可能的互联网反乌托邦。 监视资本主义可能是由谷歌发明的，但正是 Facebook 将其提升到了一个全新的水平。 这是通过社交和情感病毒机制以及对那些不是扎克伯格平台用户的人进行无情迫害来实现的。

守护AI，沉浸在虚拟现实中，与UBI一起生活

根据许多未来学家的说法，世界和技术的未来由五个缩写来表示——AI、AR、VR、BC 和 UBI。

“MT”的读者可能很清楚它们是什么以及前三个由什么组成。 当我们了解它的含义时，熟悉的也是第四个“BC”。 还有第五个？ UBD是概念的缩写，意思是“普遍基本收入 » (5)。 这是一项不时假设的公共利益，随着其他技术的发展，特别是人工智能的发展，将给予每个下班的人。

5. 全民基本收入 - UBI

瑞士去年甚至将这一想法提交公投，但其公民拒绝了它，担心引入有保障的收入会导致大量移民。 UBI 还伴随着许多其他危险，包括使现有社会不平等现象长期存在的风险。

首字母缩略词背后的每一次技术革命（另见：）——如果它在预期的方向上传播和发展——都会对人类和我们的世界产生巨大的影响，当然，包括大量的反乌托邦。 例如，人们认为它可以取代四年的选举周期，并导致对无数问题进行全民公决。

反过来，虚拟现实能够将人类的一部分“排除”在现实世界之外。 例如，韩国人 Jang Ji-sun 在 2016 年因绝症去世后，在 VR 中遇到了她的虚拟形象。 虚拟空间也创造了新的问题，或者实际上将所有已知的旧问题转移到“新”世界，甚至转移到许多其他世界。 在某种程度上，我们已经可以在社交网络中看到这一点，因为帖子点赞过少会导致抑郁和自杀。

或多或少的预言

毕竟，创造反乌托邦愿景的历史也教会了人们在制定预测时要谨慎。

6.《网中孤岛》封面

去年拍摄的是雷德利斯科特著名的科幻杰作安卓猎人» 自 1982 年以来。 可以讨论许多特定元素的实现与否，但无可争辩的是，关于我们这个时代存在的智能类人机器人在许多方面优于人类的最重要预言尚未成为现实。

我们将准备好容忍更多的预言性打击。”神经漫游者»即小说 威廉·吉布森 自1984年以来，谁普及了“网络空间”的概念。

然而，在那十年里，出现了一本不太知名的书（在我们国家，几乎完全，因为它没有被翻译成波兰语），它更准确地预测了今天的时间。 我在谈论浪漫网络上的岛屿“（6） 布鲁斯·斯特林 自 1988 年起，定于 2023 年。 它呈现了一个沉浸在类似于互联网的世界，被称为“网络”。 它由大型国际公司控制。 “网络上的岛屿”的非凡之处在于它们提供了对所谓免费互联网的控制、监视和垄断。

预见使用无人驾驶飞行器（无人机）针对在线海盗/恐怖分子进行的战斗行动也很有趣。 千里之外的操作员拥有安全的桌面——我们怎么知道？ 这本书不是关于与伊斯兰恐怖主义无休止的冲突，而是关于与反对全球化的力量的斗争。 网络中的岛屿世界也充满了看起来很像智能手表和智能运动鞋的消费设备。

还有另一本 80 年代的书，虽然其中一些事件看起来更奇幻，但很好地说明了我们现代的反乌托邦恐惧。 这 ”地雷达软件“， 历史 鲁迪·鲁克设定在 2020 年。 世界、社会状况及其冲突似乎与我们今天所面对的极其相似。 还有一些被称为 bopper 的机器人已经获得了自我意识并逃到了月球上的城市。 这个元素尚未实现，但机器的反抗正在成为黑色预测的不断重复。

书中对我们时代的看法在许多方面也非常准确。 明锐管家, 特别是在撒种的比喻»（1993 年）。 该行动于 2024 年在洛杉矶开始，发生在加利福尼亚州，该地区因气候变化造成的洪水、风暴和干旱而遭受重创。 中产阶级和工人阶级家庭在封闭式社区相遇，他们试图用成瘾药物和虚拟现实工具包逃离外面的世界。 新的宗教和阴谋论正在出现。 难民大篷车向北行驶，以避免生态和社会崩溃。 一位使用竞选口号“让美国再次伟大”（这是唐纳德特朗普的口号）的总统上台......

巴特勒的第二本书，“才干的比喻讲述了一个新的宗教邪教成员如何乘坐宇宙飞船离开地球去殖民半人马座阿尔法星。

***

对几十年前对我们日常生活所做的预测和愿景的广泛调查，有什么教训？

可能，事实是反乌托邦经常发生，但大多数情况下只是部分发生。