工智能有哪些威胁？人工智能的优点和缺点！
Posted: Wed Dec 11, 2024 9:58 am
与此同时，微软、谷歌等科技巨头也在竞相开发人工智能技术，与现有生态系统相融合，占领市场。今年 2 月，微软 CEO 萨蒂亚·纳德拉 (Satya Nadella) 向谷歌的桑达尔·皮查伊 (Sundar Pichai) 发出挑战，要求他在 AI 战场上“出来跳舞”。
对于企业来说，跟上步伐是一个挑战。一方面，人工智能有望简化工作流程、自动化单调的任务并提高整体效率。另一方面，人工智能领域是动态的，新工具不断涌现。他们应该把赌注放在哪里才能保持领先？
埃隆·马斯克 与人工智能相关的威胁
埃隆·马斯克
现在，许多技术专家正在退后一步。苹果联合创始人史蒂 求职者数据库 夫·沃兹尼亚克和特斯拉的埃隆·马斯克等领导人以及其他 1,300 名行业专家、教授和人工智能杰出人物签署了一封公开信，呼吁暂停人工智能开发六个月。
与此同时，“人工智能教父”杰弗里·辛顿 (Geoffrey Hinton) 辞去了谷歌首席人工智能研究员的职务，并在《纽约时报》上撰写了一篇专栏文章，警告人们不要使用他帮助创建的技术。
就连ChatGPT的 Sam Altman在国会听证会上也加入了警告的行列。
但这些警告是关于什么的呢？为什么技术专家说人工智能可能对企业甚至人类构成威胁？
下面仔细看看他们的警告。
责任不确定——人工智能的缺点
首先，有一个非常商业化的问题。责任。
虽然人工智能发展出令人难以置信的能力，但它们远非绝对可靠。例如， ChatGPT因在其帮助撰写的文章中提出科学参考文献而闻名。
这就提出了责任问题。如果一家公司使用人工智能完成任务并向客户提供了错误信息，谁应对损失负责？商业？人工智能提供商？
目前还不清楚。传统商业保险不承保人工智能相关责任。
监管机构和保险公司正在努力跟上。直到最近，欧盟才制定了人工智能责任监管框架。
大规模数据盗窃——人工智能的劣势
另一个问题涉及未经授权的数据使用和网络安全威胁。人工智能系统通常会存储和处理大量敏感信息，其中大部分是在法律灰色地带收集的。
这可能使它们成为网络攻击的有吸引力的目标。
人工智能和数字政策中心主席兼研究总监 Merve Hickok 解释说：“在缺乏强有力的隐私法规（美国）或缺乏充分、有效执行现有法规（欧盟）的情况下，公司倾向于收集尽可能多的数据。” ，接受《网络快报》采访。
“人工智能系统倾向于连接以前分散的数据集，”希科克继续说道。 “这意味着数据泄露可能会导致更详细的数据泄露，并可能造成更严重的损害。”
虚假信息——与人工智能相关的威胁
另一个问题是，不良行为者正在利用人工智能来生成虚假信息。不仅如此，它还可能对公众人物产生严重后果，尤其是在即将到来的选举年。它还可能直接损害公司。
无论是有意还是无意，错误信息在网上已经无处不在。人工智能可能会增加它们的数量并使识别变得更加困难。
人工智能生成的商界领袖照片、模仿政客声音的音频以及宣布可信经济新闻的人工新闻主播。由此类虚假信息引发的商业决策可能会带来灾难性的后果。
团队成员缺乏积极性和创造力——与人工智能相关的风险
企业家们也在讨论人工智能将如何影响团队成员的心理。
“我们应该自动化所有工作，包括充实的工作吗？我们是否应该创造出最终在数量上、智力上超过我们、取代我们的非人类思维？” – 公开信问道。
美国司法部国家安全和网络犯罪协调员马特·克罗宁 (Matt Cronin) 表示，答案是明确的“不”。这种规模的替代将对劳动人民的积极性和创造力产生灾难性的后果。
“掌握一个领域并深入理解一个主题需要大量的时间和精力，”他在《The Hill》中写道。 “历史上第一次，整整一代人可以绕过这个过程，仍然在学校和工作中茁壮成长。然而，依赖生成式人工智能有一个隐性成本。你并没有真正学习——至少不是以一种对你真正有益的方式学习。”
最终，人工智能的广泛使用可能会降低团队成员的能力，包括批判性思维能力。
对于企业来说，跟上步伐是一个挑战。一方面，人工智能有望简化工作流程、自动化单调的任务并提高整体效率。另一方面，人工智能领域是动态的，新工具不断涌现。他们应该把赌注放在哪里才能保持领先？
埃隆·马斯克 与人工智能相关的威胁
埃隆·马斯克
现在，许多技术专家正在退后一步。苹果联合创始人史蒂 求职者数据库 夫·沃兹尼亚克和特斯拉的埃隆·马斯克等领导人以及其他 1,300 名行业专家、教授和人工智能杰出人物签署了一封公开信，呼吁暂停人工智能开发六个月。
与此同时，“人工智能教父”杰弗里·辛顿 (Geoffrey Hinton) 辞去了谷歌首席人工智能研究员的职务，并在《纽约时报》上撰写了一篇专栏文章，警告人们不要使用他帮助创建的技术。
就连ChatGPT的 Sam Altman在国会听证会上也加入了警告的行列。
但这些警告是关于什么的呢？为什么技术专家说人工智能可能对企业甚至人类构成威胁？
下面仔细看看他们的警告。
责任不确定——人工智能的缺点
首先，有一个非常商业化的问题。责任。
虽然人工智能发展出令人难以置信的能力，但它们远非绝对可靠。例如， ChatGPT因在其帮助撰写的文章中提出科学参考文献而闻名。
这就提出了责任问题。如果一家公司使用人工智能完成任务并向客户提供了错误信息，谁应对损失负责？商业？人工智能提供商？
目前还不清楚。传统商业保险不承保人工智能相关责任。
监管机构和保险公司正在努力跟上。直到最近，欧盟才制定了人工智能责任监管框架。
大规模数据盗窃——人工智能的劣势
另一个问题涉及未经授权的数据使用和网络安全威胁。人工智能系统通常会存储和处理大量敏感信息，其中大部分是在法律灰色地带收集的。
这可能使它们成为网络攻击的有吸引力的目标。
人工智能和数字政策中心主席兼研究总监 Merve Hickok 解释说：“在缺乏强有力的隐私法规（美国）或缺乏充分、有效执行现有法规（欧盟）的情况下，公司倾向于收集尽可能多的数据。” ，接受《网络快报》采访。
“人工智能系统倾向于连接以前分散的数据集，”希科克继续说道。 “这意味着数据泄露可能会导致更详细的数据泄露，并可能造成更严重的损害。”
虚假信息——与人工智能相关的威胁
另一个问题是，不良行为者正在利用人工智能来生成虚假信息。不仅如此，它还可能对公众人物产生严重后果，尤其是在即将到来的选举年。它还可能直接损害公司。
无论是有意还是无意，错误信息在网上已经无处不在。人工智能可能会增加它们的数量并使识别变得更加困难。
人工智能生成的商界领袖照片、模仿政客声音的音频以及宣布可信经济新闻的人工新闻主播。由此类虚假信息引发的商业决策可能会带来灾难性的后果。
团队成员缺乏积极性和创造力——与人工智能相关的风险
企业家们也在讨论人工智能将如何影响团队成员的心理。
“我们应该自动化所有工作，包括充实的工作吗？我们是否应该创造出最终在数量上、智力上超过我们、取代我们的非人类思维？” – 公开信问道。
美国司法部国家安全和网络犯罪协调员马特·克罗宁 (Matt Cronin) 表示，答案是明确的“不”。这种规模的替代将对劳动人民的积极性和创造力产生灾难性的后果。
“掌握一个领域并深入理解一个主题需要大量的时间和精力，”他在《The Hill》中写道。 “历史上第一次，整整一代人可以绕过这个过程，仍然在学校和工作中茁壮成长。然而，依赖生成式人工智能有一个隐性成本。你并没有真正学习——至少不是以一种对你真正有益的方式学习。”
最终，人工智能的广泛使用可能会降低团队成员的能力，包括批判性思维能力。