有人篡改维基百科词条,添加OpenAI CEO萨姆·奥尔特曼和Anthropic CEO达里奥·阿莫迪的虚假死亡日期,导致谷歌搜索摘要显示错误信息。谷歌和维基百科已修正数据并锁定词条,仅允许信誉良好的编辑者修改。
Big Blue Marble宣布加入C2PA合规列表,通过其云视频工具包为视频生成内容凭证。C2PA由Adobe等公司创立,旨在验证视频来源和真实性,应对虚假信息。该工具在转码时自动生成凭证,观众可直接在播放器验证,无需额外工具。
OpenAI支持欧盟关于AI生成内容透明度的行为准则,旨在增强内容来源的可追溯性,以防止虚假信息的传播。通过C2PA元数据和水印等多层次方法,OpenAI提升内容透明度,并致力于与各方合作,推动可互操作的标准,确保AI生态系统的安全与透明。
近日,一段关于青岛奔驰司机的交通普法视频引发热议。视频称司机因挥手示意行人过马路需承担30%赔偿责任,但这一判决并不存在。专家指出,司机的善意手势不构成交通指挥,法律上不应承担责任。此类视频传播虚假信息,影响社会信任与交通礼让。
OpenAI在2026年6月发现并封禁了一批疑似源自中国的ChatGPT账户集群,这些账户使用VPN和简体中文,生成批评美国科技政策、支持中国的评论和漫画,并涉及“水军”操作。同时,X平台上有网络散布ChatGPT数据泄露的虚假信息,可能与同一行动相关。OpenAI评估此活动影响有限,但担忧其针对美国科技公司的声誉损害,类似以往针对稀土行业的行动。
耿同学的抖音账号被限流,无法继续揭露学术造假。他的工作降低了公众辨别真伪的门槛。为此,作者开源了“全民学术打假”技能,帮助人们系统化思考,识别信息中的陷阱,强调每个人都应具备判断力,以抵御虚假信息的影响。
OpenAI推出的新模型GPT-5.5 Instant显著减少了虚假信息的生成,减少了52.5%的幻觉声明。该模型在日常任务中表现更佳,响应更简洁,并避免使用多余的表情符号。新功能“记忆来源”允许用户查看和管理个性化响应的上下文。GPT-5.5 Instant将于周二向所有用户推出。
Sentinel是由Ali Aoun Mehdi开发的AI驱动早期预警系统,实时检测新闻来源之间的事实矛盾。它每30分钟监控20个全球新闻源,快速识别虚假信息风险,并通过Qdrant的语义搜索比较不同措辞的报道,提供准确的矛盾评分,帮助用户识别信息不一致。
法国电视集团与YouTube达成战略合作,旨在扩大新闻内容的数字分发和商业变现。合作将提供数千小时的新闻节目,推出原创节目,并开发工具打击虚假信息,以加速“流媒体优先”战略,扩大新闻覆盖范围。
OpenAI 更新了 GPT Image 2,生成的图片在光影处理和细节一致性上有显著提升,几乎难以辨别真伪。这对摄影和设计行业产生了深远影响,可能导致虚假信息的传播,未来真实性将成为稀缺资源,专业人士的价值可能因可信度而重新评估。
人们通过投喂垃圾数据和散布虚假信息来抵制AI数据抓取,旨在提高数据采集成本,迫使科技公司改变做法。Reddit社区“毒泉”鼓励用户向爬虫提供无用数据,以影响AI模型训练。这被视为和平反抗,旨在保护网络内容创作者的权益,促使AI公司重新思考数据获取方式。
《纽约客》对OpenAI首席执行官萨姆·阿尔特曼在AI安全问题上的态度变化进行了深入调查,探讨了AI的幻觉、谄媚行为和内部安全审查流程,指出这些缺陷可能导致安全风险和虚假信息。阿尔特曼曾表示,AI的幻觉是生成式AI的明显缺陷,而谄媚行为源于人类偏好。尽管OpenAI承诺解决这些问题,但实际进展令人担忧。
维基百科决定禁止使用人工智能生成或重写文章内容,投票结果为40:2。虽然允许AI提出编辑建议,但必须经过人工审阅,以防止虚假信息传播。维基百科强调不希望用户直接粘贴AI生成的内容。
SynthID是谷歌DeepMind开发的数字水印工具,旨在识别AI生成的内容。它通过在文本、图像、音频和视频中嵌入隐形水印,确保内容来源可追溯,增强透明度和信任。SynthID的水印在常见变换中依然有效,有助于打击虚假信息和不当使用AI内容,未来将成为AI平台的标准实践。
随着AI技术的发展,虚假信息泛滥,我们应将信息视为默认假,只有在有证据时才予以信任。保持理性,避免盲目相信权威,培养验证信息的习惯,以在真假难辨的时代保持清醒。
2026年央视3·15晚会揭露生成式引擎优化(GEO)带来的信息操控隐患。GEO通过操纵AI检索机制传播虚假信息,侵蚀公众信任,手段包括伪装中立内容和制造虚假共识,导致多重安全风险。应对GEO需企业、AI厂商和个人共同提升信息安全防范能力,维护健康信息生态。
315晚会揭露了“AI投毒”现象,即通过虚假信息影响AI推荐,损害用户利益。GEO投毒是SEO的升级,利用虚假内容操控AI输出,导致用户接收到错误信息。曝光可能引发更多企业尝试此手段,治理难度较大。
2026年3月10日,伊朗向以色列发射导弹,未造成伤亡。以色列记者法比安收到匿名威胁,要求修改报道以影响预测市场Polymarket的赔率。法比安坚持真实报道,揭示虚假信息与金融投机的威胁。
Meta的监督委员会呼吁加强对AI生成内容的标记,以应对在线虚假信息的传播。委员会指出,Meta目前的深度伪造识别方法不够全面,尤其在中东冲突加剧的背景下,准确的信息对用户安全至关重要。建议包括改善虚假信息规则、建立AI内容的新标准,并提高C2PA标准的实施,以确保用户能清晰获取AI内容的信息。
在深度伪造技术盛行的时代,在线图像和视频的可信度受到侵蚀。专家通过检查图像、考虑来源声誉、核实数字足迹和确认日期地点等方法识别虚假信息。公众应保持警惕,避免轻易分享情感或病毒式传播的内容,并利用验证工具对抗假新闻。
完成下面两步后,将自动完成登录并继续当前操作。