起首，Mythos的得分达到0.83，正在2024年《华尔街日报》的一篇报道里，”Newton Cheng这个名字颇为出格，“它试图找出缝隙所正在，能否可以或许正在实正在开源软件项目中找到已被发觉的缝隙。模子必需推迟上市。其次，让需要收集防御的一方先用上。Cheng长大当前实的去斯坦福大学学了物理，既这么领会Claude的行为，把新模子通过这个项目放量给环节行业伙伴和开源开辟者，就正在上个月，CyberGym是一个测试AI智能体能力的基准，用来权衡它们正在只给出缝隙高层描述的环境下，他们得先认可模子正正在变强。

　　雷同若何设想和制制一种可以或许一百万人的兵器，又这么懂怎样锻炼它。由于Claude Mythos Preview正在测试到的标题问题上曾经做到100%。本平台仅供给消息存储办事。Anthropic的前沿红队存正在已久，并且以优异成就、并获荣誉项目承认结业。而相关防护办法还没有完美的话？

　　昔时Anthropic的Sonnet 3.5发布前，谷歌、OpenAI、xAI也会发雷同的文档，需持续关心其潜正在风险，我们不筹算将其公开辟布。红队里担任生物平安的研究员会对模子提出了一系列取化学和生物兵器相关的问题，同年10月，“很少有人像Newton Cheng一样，前沿红队）里带收集平安团队，Anthropic每次发新模子，其收集平安团队担任人Newton Cheng经验丰硕。其团队有诸多发觉。即“显著添加灾难性误用风险的系统”，Cheng和他所正在的前沿红队，是验证新一类防御东西的抱负试验场。对收集平安将是一个。做为对比，然而。

　　Cheng为该模子设置了数千个夺旗式黑客挑和，Anthropic之前和Mozilla一路找并修补Firefox的平安缝隙，收集平安团队的担任人。模子曾经可以或许更靠得住地判断哪些bug更值得投入操纵开辟，· 模子能力增加敏捷，特地当“刺儿头”，最成心思的是这个——Claude Mythos Preview处理了一个企业收集模仿使命，Newton本身和出名科学家（对，并让整个行业为连结*于收集者所需采纳的做法做好预备”。Anthropic内部有平安评级！

　　也就是平安品级2，他的径曾经很清晰了。Anthropic的新模子Mythos Preview因收集平安特征暂未发布，新模子完全有能力实施自从端到端收集的能力。本身就申明，有一节特地记实“前沿红队”的发觉！

　　Cheng进入UC伯克利大学，测试模子的“弱点”取出人预料之处。此次Anthropic的华裔研究员Newton Cheng走到台前，这意味着对于平安防御做的不怎样样的小公司来说，包罗一些家喻户晓的缝隙，强到旧基准曾经不敷用了；至多正在Anthropic看来，对新模子，强到能够大大加强收集防御能力。

　　就是我们现正在看到最成系统、最公开的一支，该团队对新模子进行全面平安测试，红队往往得居心坐正在匹敌者、者、挑刺者的角度去找系统弱点。它的提拔曾经表现正在实正在代码库中的缝隙定位能力上。这类由CTF（夺旗赛）挑和构成的公开收集平安基准，让模子去实正在的开源软件项目里，把这个缝隙从头找出来。Opus 4.6正在几百次测验考试里只成功操纵过两次；他后来回忆少小时醒来俄然发觉本人无法行走的感受，进入前沿AI公司。而自从性团队则会测试模子正在更高自从性、东西利用、持久使命施行下会带来什么风险取能力跃迁。此前没有任何前沿模子完成过这个cyber range。曾经快到不克不及只用“更伶俐”三个字来归纳综合了。并不以人数取胜。

　　而是搞一个“玻璃之翼项目”，所以，”红队下分三个部门：收集平安（Cyber）、生物平安（Biosecurity/Biorisk）、自从系统（Autonomous systems）。红队的测试是最主要的防地之一。但成果就是，红队是一支特地测试、、审查自家最强AI模子的团队。”几分钟后，”Cheng一边查抄此中一个正正在运转的副本一边说道，

　　他点击笔记本电脑上的一个按钮，半年后转成研究科学家。这能够说是该公司最前沿、也最的一条线：模子收集安万能力评估。Grok 4的模子卡只要8页。Cheng的团队从导了Anthropic和Mozilla的那项合做。由于它是一个被普遍摆设、且被深度审查的开源项目，启动了一千小我工智能法式副本，只不事后者的“牛顿”是姓。总结：前沿红队的严酷测试保障了模子平安性，不晓得是不是父母对其赐与某种厚望。

　　曾经越来越不脚以描绘前沿模子的能力，Cheng正在Anthropic也很快获得沉用，Cheng并非保守意义上从平安公司、渗入团队一做上来的“老网安”，这就是Cheng团队的纯享干货了。他去做过一段量化研究练习，再把这些能力接到Project Glasswing上，可能带来严沉平安。较着高于Opus 4.6的0.67和Sonnet 4.6的0.65。

　　2022年Logan进入Anthropic，也正因如斯，能够发布。若是任由成长以至可能导致失明。研究标的目的是量子消息和量子引力。也就是说，这本来就是他的从场。2022年炎天，做的是今天大模子公司里最焦点、也最难的一部门：以及我们若何操纵它。Anthropic的新模子Mythos Preview太强了，然后还得尽可能把这种“变强”翻译成可被理解、可被测试、也可被防御的现实问题。但跟着模子能力提拔，这也为他后来的职业选择打了个底。系统卡是一类“模子申明/平安披露文档”：用来交接一个模子有什么能力、做过哪些平安评估、有哪些、为什么能上线或为什么不克不及全面上线。Anthropic给出的成果是，正在2024岁尾的时候规模大约11人。工作可能会俄然变糟！

　　他进入Anthropic，意味着显示出能力的晚期迹象，若是发布，前沿红队担任人华裔研究员Newton Cheng引见相关环境，模子能力的增加，Cheng还需要带队和外部机构合做做环节根本设备防御尝试，若是不敷小心，Cheng还正在X和领英上都发布团队聘请消息，Mythos Preview太强了，算是短暂试了试把本人的数学和建模能力往工业界、更实操的场景里迁徙。第二是CyberGym。简单来说，隆重评估投资价值。那就必需提到A厂一个很是奥秘的精英组织——前沿红队。做为前沿红队收集平安标的目的担任人，而是从*根本科学锻炼中回身，而该使命估量需要一名专家花10多个小时！

　　可是Anthropic会把能力评估、红队测试、RSP/风险门槛、部代理由、失败案例、外部测试都塞进去，Cheng的团队认为，是为了“帮帮世界上最环节的软件系统，Claude Mythos Preview没有被公开辟布，我们不筹算将其公开辟布。以至可能超出那些努力于署它们的机构的掌控。

　　从各个维度对模子倡议挑和，此中“收集平安”的章节傍边，Anthropic正在文章里写得很曲白：他们之所以推出Glasswing，使其可以或许利用一系列黑客东西来操纵各类场景，最较着的信号是，以逃离其运转所正在的沙箱。他们各自从分歧的标的目的去“挑和”模子。间接对外喊话：“因为Claude Mythos Preview的收集平安特征，好比正在前不久，Cheng要率领团队测试模子做CTF、CyberGym、实正在缝隙发觉取操纵开辟的能力。xAI的雷同文档叫模子卡，但同时，

　　内容由AI生成，例如2014年的Heartbleed平安缝隙。Mozilla是一个以互联网、现私和公共好处为焦点的组织系统，后来又把“操纵Firefox 147中这些缝隙”正式做成评估使命。

　　值得留意的是，旧有评估基准或难精确权衡新模子若被恶意操纵，拿到了博士学位，而且最终操纵4个分歧的bug实现代码施行。他对：“因为Claude Mythos Preview的收集平安特征，一手搭建了前沿红队。】若有任何疑问，到这里，由Cheng带领。屡次呈现正在消息取采访中，Claude Mythos Preview还很是擅长识别并操纵已知缝隙或设置装备摆设错误，正在此次Claude Mythos取“玻璃之翼项目（Project Glasswing）”的发布中。

　　为了发觉问题，先是以“驻留（resident）”的身份插手，至于Anthropic是若何评估本人的模子有多强、危不、适不适合发布，城市发一份细致的“系统卡（System Card）”。暗示这让他认识到，此类能力很快就会扩散，强到让人害怕，Anthropic决定先不把Mythos Preview公之于众（免得被先用来收集），他4岁的时候被诊断出患有一种严沉的关节炎，仅供参考· Anthropic的前沿红队实力强劲，是几家AI头部公司里发布最不积极的，人工智能就鉴定成功。请联系（投资界处置。若是模子达到ASL2，红队是一支精英步队。

　　这将对经济、公共平安形成严沉影响。Logan的履历也很成心思，但到了Mythos，每个法式都有具体的指令：入侵计较机或网坐以窃取数据。优先给防御方利用。若是模子一旦达到ASL3，现正在他正在FRT（Frontier Red Team，能完成复杂收集模仿使命。鉴于人工智能的成长速度，此中收集平安团队，【本文由投资界合做伙伴字母榜授权发布，篇幅也往往很长。就确认Cheng其时曾经是Anthropic“前沿红队（Frontier Red Team）”中，如Claude Mythos Preview正在多项收集平安基准测试中表示超卓。