声网与网易智企-易盾联合推出内容审核解决方案,旨在提高接入便捷性、降低成本并实现治理闭环。该方案整合音视频审核能力,简化开发流程,优化资源利用,提升合规治理效率,帮助平台有效管理风险内容,保障用户体验。
阿里巴巴和字节跳动的AI应用将于7月15日下线智能体功能,以符合新实施的《人工智能拟人化互动服务管理暂行办法》。用户需提前保存对话记录,之后将无法访问相关数据,此举旨在加强AI服务的内容安全和监管。
连麦功能已成为实时互动产品的标准配置,但内容安全风险较高。审核难度大于普通直播,需要实时处理多路音视频流。音频审核通过转写和声纹识别,视频审核通过截帧,文本审核在消息发送前过滤。违规处理包括自动下麦、录制留证和人工审核。安全防护措施如Token鉴权和推流鉴权可防止问题发生,确保违规内容不触达观众。
本文介绍了如何利用小型语言模型(LLM)为教育应用程序生成创意项目建议。作者开发了一款基于活动学习的应用,使用维基百科数据构建数据集,并通过过滤和生成训练对来训练模型。文章详细阐述了模型的微调过程、评估方法及其在应用中的集成,确保生成内容适合儿童且安全。最终目标是根据教师提供的材料和年龄范围,生成结构化的教育活动建议。
社交应用对聊天SDK的要求包括关系链、大群、富媒体消息、弱网表现和内容安全。选择时需根据产品形态优先级逐项核对功能,特别是在弱网和大群环境下进行实测。即构科技的ZIM因其低延迟、高并发和丰富功能,适合社交应用。
ZIPAIR选择Axinom Stream作为新机载流媒体平台,推动数字优先战略,向乘客个人设备提供高质量内容。该平台支持灵活的乘客体验,确保内容安全,并可通过云平台持续更新,提升服务质量。
流媒体服务商Broadpeak将在2026年NAB展会上展示多视图直播、动态广告插入和基于QUIC的媒体传输技术,旨在提升直播体验、增加广告收入,并加强内容安全与反盗版保护。
阿里云致力于构建可控的内容安全体系,确保AI输出合规可信。通过严格筛选训练数据、实时风险防控和灵活配置审核规则,为企业提供安全保障,助力AI应用合规落地。
OpenAI 发布了以安全为中心的开源模型 GPT-OSS-SafeGuard-20B/120B,主要用于内容安全分类。开发者可根据需求调整安全边界,模型支持实时解读安全策略。尽管在某些场景下表现良好,但处理复杂问题时传统分类器可能更优。该模型采用 Apache 2.0 许可证,允许自由使用和修改。
OPEA是Linux基金会的子项目,旨在为生成式AI提供开放解决方案。最新的OPEA 1.4版本增加了内容安全防护、模型上下文协议支持和微调功能,兼容多种硬件平台,提升了开发者体验。
AIGC技术推动内容生产增长,企业面临成本、效率和合规挑战。数美科技推出大模型审核Agent,提升审核效率,降低人工成本90%。该系统通过深度语义理解优化审核流程,实现人机协同,提高审核准确率,帮助企业保持内容安全竞争力。
Adobe推出了Photoshop的新功能,利用生成式AI简化照片中对象和人物的编辑。新工具包括“Harmonize”合成功能,能自动调整新元素的颜色和光影,使其自然融入主图像。此外,AI图像放大和精确的对象移除工具也得到了更新。虽然这些功能提升了编辑效率,但也引发了对潜在滥用的担忧,Adobe强调用户需遵守使用条款以确保内容安全。
Mux推出新功能,通过在请求中添加参数?latest=true,客户可以每15秒轻松获取最新直播缩略图。这一功能简化了内容审核流程,结合OpenAI审核工具,提升了内容安全性和可发现性,现已对所有Mux视频客户开放,无额外费用。
HbbTV协会发布新规范,整合数字版权管理(DRM)以提升内容安全性和可靠性。该规范解决了HbbTV与DRM集成的技术挑战,支持Microsoft PlayReady和Google Widevine,确保跨设备一致性,满足高级电视服务需求。
我们在五月推出了Veo 3视频生成模型,向150多个国家的Google AI Pro用户开放。用户可以通过上传照片并描述场景,生成动态视频,目前已生成超过4000万个视频。该功能正在逐步推出,注重内容安全性。
广播和流媒体公司面临盗版威胁,需采用有效技术保护内容安全。安全问题包括软件篡改和凭证滥用,预计到2027年全球因盗版损失将达1130亿美元。实施分层防御和实时监控是确保流媒体服务可持续发展的关键。
加密DRM视频托管是一种安全的视频内容存储和流媒体方法,防止盗版和未经授权的访问。它结合了数字版权管理和加密技术,确保只有授权用户能够观看,广泛应用于在线教育和媒体行业。通过加密DRM,内容创作者能够控制许可和货币化,确保内容的安全性和合法性。
数美科技推出DeepSeek一体机,旨在解决政务、金融和医疗等行业的内容安全问题。该产品采用四级标签体系高效识别风险内容,支持全球合规。通过“端云”架构,实现高效审核与实时更新,兼顾安全与用户体验。产品兼容国产芯片,轻量化运行,便于快速集成,助力企业智能化转型。
本研究探讨了大型语言模型(LLMs)在交互体验中的内容安全问题,特别是偏见和毒性。通过HEXACO人格框架,发现不同人格特征显著影响模型输出的偏见和毒性,调整人格特征可有效降低不良行为。
Picr.zz.ac是一个开源公益图床,使用Go和Mithril.js开发,旨在简化图床服务。它支持多种上传方式,提供图片预览和自动上传功能。为确保内容安全,Picr对上传设置了IP限制和过期时间,并允许用户举报恶意内容。注册用户可享受更长的上传时间,并需设置Referer白名单以防止滥用。所有代码均为开源,欢迎参与。
完成下面两步后,将自动完成登录并继续当前操作。