Donasyon ng open source alignment tool na Petri
Orihinal na pamagat:Donating our open-source alignment tool
AI summary
Noong Oktubre 2025, inilabas ng Anthropic bilang open source ang Petri, isang toolbox para sa pagsubok ng AI model alignment, para mabilis na matukoy ang mga risk tendency ng modelo tulad ng deception at sycophancy. Naging core part na ito ng alignment evaluation ng Claude model series at ginagamit na rin ng mga external na institusyon tulad ng UK AI Safety Institute. Kamakailan, na-upgrade ang Petri sa version 3.0, na may mga pangunahing pagpapabuti: inayos ang architecture para mas adaptable, na nagpapahintulot ng hiwalay na adjustment ng auditor at target model; gumagamit ng tunay na system prompt at deployment environment sa pamamagitan ng "Dish" add-on para mas maging totoo ang testing; at naka-integrate sa isa pang open source tool na Bloom para sa mas malalim na behavioral evaluation. Para matiyak ang independence at credibility, inilipat na ang pag-develop ng Petri sa non-profit na Meridian Labs.
Mahahalagang impormasyon
- Noong Oktubre 2025,inilabas ng Anthropic bilang open source ang Petri,isang toolbox para sa…
- Naging core part na ito ng alignment evaluation ng Claude model series at ginagamit na rin ng mga…
- Kamakailan,na-upgrade ang Petri sa version 3.
- 0,na may mga pangunahing pagpapabuti: inayos ang architecture para mas adaptable,na…
- gumagamit ng tunay na system prompt at deployment environment sa pamamagitan ng "Dish" add-on para…
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- Anthropic:Research(发表成果 · 网页)
- Kategorya
- Mga produkto at aplikasyon
- AI na marka
- 73
Petri 从 Anthropic 内部工具箱变成行业公共品,捐赠给 Meridian Labs 意味着对齐评估不再绑定一家公司,做安全测试的团队又多了一个可参考的标尺。
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Donasyon ng open source alignment tool na Petri. 7 Mayo 2026. https://new.nat6.net/fil/news/cmow01hfu01nwslcxdc8cl10x/