Mga produkto at aplikasyon

Donasyon ng open source alignment tool na Petri

Orihinal na pamagat:Donating our open-source alignment tool

AI summary

Noong Oktubre 2025, inilabas ng Anthropic bilang open source ang Petri, isang toolbox para sa pagsubok ng AI model alignment, para mabilis na matukoy ang mga risk tendency ng modelo tulad ng deception at sycophancy. Naging core part na ito ng alignment evaluation ng Claude model series at ginagamit na rin ng mga external na institusyon tulad ng UK AI Safety Institute. Kamakailan, na-upgrade ang Petri sa version 3.0, na may mga pangunahing pagpapabuti: inayos ang architecture para mas adaptable, na nagpapahintulot ng hiwalay na adjustment ng auditor at target model; gumagamit ng tunay na system prompt at deployment environment sa pamamagitan ng "Dish" add-on para mas maging totoo ang testing; at naka-integrate sa isa pang open source tool na Bloom para sa mas malalim na behavioral evaluation. Para matiyak ang independence at credibility, inilipat na ang pag-develop ng Petri sa non-profit na Meridian Labs.

Mahahalagang impormasyon

  • Noong Oktubre 2025,inilabas ng Anthropic bilang open source ang Petri,isang toolbox para sa…
  • Naging core part na ito ng alignment evaluation ng Claude model series at ginagamit na rin ng mga…
  • Kamakailan,na-upgrade ang Petri sa version 3.
  • 0,na may mga pangunahing pagpapabuti: inayos ang architecture para mas adaptable,na…
  • gumagamit ng tunay na system prompt at deployment environment sa pamamagitan ng "Dish" add-on para…

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Anthropic:Research(发表成果 · 网页)
Kategorya
Mga produkto at aplikasyon
AI na marka
73
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

Petri 从 Anthropic 内部工具箱变成行业公共品,捐赠给 Meridian Labs 意味着对齐评估不再绑定一家公司,做安全测试的团队又多了一个可参考的标尺。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Donasyon ng open source alignment tool na Petri. 7 Mayo 2026. https://new.nat6.net/fil/news/cmow01hfu01nwslcxdc8cl10x/

Tingnan lahat →