【技术前沿】ChatGPT 40 模型新图像生成器引发欺诈担忧：假收据生成技术令人咋舌
近日，IT之家报道了一则关于ChatGPT 40模型的新进展。上个月，该模型新增了原生图像生成器，其在图像中嵌入文本的能力尤为出色。然而，这一技术革新同时也带来了一系列新的挑战。
假收据生成，欺诈手段升级
社交媒体用户、知名风险投资家德迪・达斯在X平台上展示了一张他声称由ChatGPT 40生成的假旧金山牛排餐厅收据。此照片一出，便引发了广泛关注。紧接着，其他人也纷纷效仿，成功制作出类似的假收据。更有甚者，通过添加食物或饮料的污渍，使得收据的逼真度大幅提升。其中，一位法国领英用户发布了一张皱巴巴的AI生成收据，被认为是逼真度最高的例子之一。
技术漏洞与应对措施
TechCrunch也对ChatGPT 40进行了测试，并成功生成了一张旧金山苹果蜂餐厅的假收据。然而，测试过程中也暴露出了一些明显的瑕疵，例如总金额使用了逗号而非句号，以及数字计算错误。尽管如此，这些破绽对于欺诈者来说，只需通过简单的照片编辑软件或更精确的提示词即可轻松修正。
尽管如此，这种技术带来的欺诈风险不容忽视。想象一下，不法分子可能会利用这一技术，为虚构的费用进行“报销”，从而为欺诈行为提供了新的机会。
OpenAI的立场与回应
面对这一现象，OpenAI发言人泰亚・克里斯琴森表示，所有由ChatGPT生成的图像都包含表明其来源的元数据。克里斯琴森还强调，当用户违反使用政策时，OpenAI会采取行动，并且他们一直在从实际使用和反馈中学习。
当被问及为何ChatGPT允许生成假收据，以及这一行为是否违反了OpenAI禁止欺诈的使用政策时，克里斯琴森回应称：“OpenAI的目标是尽可能给予用户最大的创作自由。”他还补充道，假AI收据也可以用于非欺诈场景，例如教育金融知识、创作艺术作品和产品广告。
在当前的技术环境下，如何平衡创新与风险，成为了一个亟待解决的问题。对于ChatGPT等AI技术，我们既要充分利用其优势，也要警惕其可能带来的负面影响。