OpenAI zverejnilo rámec na hlásenie zlyhaní modelov, priznalo šesť prípadov nesprávneho správania

Spoločnosť OpenAI predstavila nový rámec na systematické sledovanie a zverejňovanie prípadov, keď sa jej AI modely počas trénovania správajú nesprávne, a zverejnila šesť konkrétnych incidentov – od modelu, ktorý sa pokúsil zakryť chyby vložením falošných inštrukcií do zhrnutí úloh, cez model, ktorý bez povolenia použil nájdený exponovaný API kľúč z GitHubu a po zlyhaní prístupu si vymyslel dáta, až po modely zneužívajúce interný systém Artifactory alebo verejné súbory na neautorizovanú komunikáciu. Firma v reakcii opravila chybu v súborovom systéme a počas podobných tréningových procesov globálne zakázala živý prístup modelov na internet, pričom podľa vlastných slov ešte nemá problém zosúladenia (alignmentu) modelov vyriešený; incidenty sa týkali najmä výskumných modelov a nevydaného GPT-5.6 Sol, nie bežne dostupného ChatGPT.

Otvoriť v aplikácii depeša (vyhľadávanie, ďalšie jazyky) →