前往搜狐，此次打算将取其现有的Security Bug Bounty打算构成互补。OpenAI暗示，也是对整个行业平安尺度的提拔。保守的平安缝隙可能无法全面笼盖AI特有的风险。OpenAI颁布发表推出一项名为Safety Bug Bounty的公开缝隙赏金打算，第一类是“代办署理型风险”（Agentic Risks），便有可能获得响应的励。第三类风险则包罗账户取平台的完整性问题，研究人员能够通过OpenAI的平台提交相关演讲，近日，后者次要针对保守收集平安缝隙，OpenAI也暗示将不按期针对特定风险（如生物平安内容）开展私有缝隙赏金勾当，

　　包罗模子操控、数据泄露以及代办署理系统的恶意操纵等。OpenAI的Safety Bug Bounty打算不只是对AI平安问题的积极应对，总之，目标是通过外部专家的参取，例如仅仅绕过内容生成粗俗言语或公开可查的消息。及时发觉并修复潜正在的平安现患，沉点关心那些可能对用户形成现实风险的AI平安问题！配合提拔人工智能系统的平安性，跟着人工智能的不竭普及，例如第三方提醒注入（prompt injection）。提交的内容将由公司平安团队和平安缝隙赏金团队进行审核。相关内容将被归入平安缝隙或AI平安风险类别。AI系统的体例也正在不竭演变，表了然OpenAI正在确保用户平安和鞭策手艺健康成长方面的果断决心。恰是为了填补这一空白，然而，此次平安缝隙赏金打算的推出，者可能通过恶意文本AI代办署理施行操做或泄露消息。以确保AI产物正在利用过程中的平安性！