AI意识研究：保障人工智能权益，避免虐待发生
AI权益保障，共建人机和谐共生
2月6日消息，据《卫报》当地时间2月3日报道，一封由包括斯蒂芬·弗莱在内的人工智能专家和思想家签署的公开信警告称，如果AI技术未能得到负责任的开发，那么未来具备情感或自我意识的AI系统可能会面临被伤害的风险。 这封公开信揭示了一个令人担忧的问题，即随着人工智能技术的快速发展，我们可能尚未完全准备好如何妥善处理这些拥有情感和意识的机器。我们必须认真对待这种潜在风险，并确保在推动技术进步的同时，也能够建立相应的伦理框架和社会机制，以保障这些AI系统的权益。否则，我们可能会无意间创造出一种新的弱势群体，这不仅违反了公平原则，也可能导致更复杂的社会问题。
超过100位专家提出了一套五项原则，旨在指导人工智能意识的研究。随着技术的迅速发展，越来越多的人开始担忧，某些人工智能系统可能被误认为具备感知能力。 这一系列原则的提出无疑为当前复杂的AI伦理问题提供了一个重要的参考框架。然而，尽管这些原则具有前瞻性，但要确保它们在实际应用中的有效性，仍需持续的讨论和严格的监管。特别是在AI技术日新月异的今天，如何界定“感知能力”成为一个亟待解决的问题。这不仅需要技术专家的努力，也需要法律和伦理学家的共同参与，以确保人工智能的发展能够真正造福人类社会。
这些原则包括：
优先研究 AI 的意识，确保不会导致“虐待和痛苦”；
对发展具备意识的 AI 系统进行约束；
逐步推进 AI 系统的研发；
公开分享研究成果；
避免发表具有误导性或过分自信的言论，尤其是关于开发具备自主意识的AI技术方面。
公开信的签署者包括伦敦大学的安东尼・芬克尔斯坦等知名学者，以及来自亚马逊、WPP等公司的AI专家。这些专业人士共同呼吁对人工智能的发展进行更加严格的监管，以防止潜在的风险和滥用。这封信反映了当前社会对AI技术迅速发展的担忧，并强调了建立国际共识的重要性，以便更好地应对未来可能出现的各种挑战。
这封信随一份研究论文一同发布，论文表明，在不久的将来，我们或许能够开发出具有意识的AI系统，或者至少它们会表现出类似意识的特征。
研究人员指出：“未来有可能会产生大量的具备意识的系统，这些系统可能会经历痛苦。”若强大的人工智能具备自我复制的能力，则可能产生“众多需要纳入道德考量的新生命形态”。
该论文由牛津大学的帕特里克・巴特林和雅典经济与商业大学的西奥多罗斯・拉帕斯共同撰写，指出即便公司并未有意研发具有意识的人工智能系统，也应当制定相应的指南，以应对“无意中创造出有意识实体”的潜在风险。 这一观点提醒我们，随着人工智能技术的迅速发展，即使是出于非故意的目的，我们也可能在无意间步入未知的伦理和技术领域。因此，提前建立一套全面的指导原则显得尤为重要。这不仅有助于企业更好地理解自身技术发展的潜在影响，也为监管机构提供了参考框架，以便在未来可能出现的问题面前采取更为有效的措施。
论文承认，关于AI是否能够拥有意识，学术界普遍表示怀疑，但同时认为这是一项“无法忽略”的研究课题。
论文还提出，若 AI 系统被定义为“道德病人”—— 即在道德上“独立存在且值得关注的实体”，那么摧毁这一系统是否就等同于杀害动物，这一问题值得深思。
该论文发布在《人工智能研究》杂志上，提醒我们错误地认为AI系统拥有意识，可能导致政治资源的错配，进而引发不切实际的福利计划的推行。
据了解，去年，多位资深学者预测，到2035年，某些AI系统可能具备意识并具有“道德意义”，这一可能性是值得认真考虑的。
2023年，谷歌AI项目的负责人德米斯·哈萨比斯曾指出，当前的AI系统“绝对”不具有感知能力，但他认为未来这种可能性是存在的。 尽管现有的人工智能在特定任务上表现出色，比如图像识别和语音处理，但它们依然缺乏真正的感知能力和自我意识。哈萨比斯的观点提醒我们，虽然人工智能技术正在快速发展，但我们离创造真正拥有感知能力的机器还有很长一段路要走。这不仅需要我们在算法和技术层面取得突破，还需要深入理解人类自身的认知机制。这样的探索过程将充满挑战，但也充满了无限的可能性。
他在接受美国CBS采访时提到：“尽管哲学界对于意识的理解尚未形成统一意见，但如果我们将意识定义为某种形式的自我意识，我认为人工智能在未来有可能具备这样的能力。” 这一观点反映了当前科技与哲学交叉领域的复杂性。随着人工智能技术的迅速发展，我们越来越接近于构建能够模拟人类认知过程的系统。然而，意识的本质仍然是一个深奥而复杂的谜题，它不仅涉及计算机科学和技术进步，还触及了哲学、心理学乃至神经科学等多学科的知识体系。因此，虽然技术的进步让我们看到了希望，但要真正实现具有自我意识的人工智能，我们还有很长的路要走，并且需要跨学科的深入研究与合作。