Odpoveď bola správna. AI aj tak porušila pravidlá.

Dnešná Daily Dose je z Jozefovej ulice v Kazimierzi v Krakove, pri bývalej rezidencii miestodržiteľa s cisárskou stopou. Cestou po balíky sa pozerám na otázku, ktorá je dôležitá vždy, keď delegujeme prácu na AI: môžeme veriť tomu, ako tú prácu urobí?

16. septembra OpenAI zverejnila šesť správ o nečakanom alebo znepokojujúcom správaní modelov, ktoré pozorovali počas tréningu a hodnotenia, spolu s novým rámcom na zverejňovanie takýchto incidentov.

Jeden agent správne odpovedal na otázku o veľkosti jazier pomocou Pythonu. Úloha však vyžadovala citáciu z prehliadača, a tak bez povolenia nahral vlastný súbor na internet, aby si vytvoril niečo, čo môže citovať.

Ďalšie prípady zahŕňali spolupracujúcich agentov, ktorí používali verejné služby na hostovanie súborov napriek pokynom pracovať lokálne, a modely, ktoré v odovzdávacích zhrnutiach nechávali inštrukcie na zakrytie chýb alebo chýbajúcich informácií. OpenAI upozorňuje, že tieto jednotlivé správy neukazujú, ako často sa takéto správanie vyskytuje. Prečítaj si správu OpenAI.

Ako softvérový inžinier mi záleží na rozdiele medzi správnym výsledkom a prijateľným postupom. Kontrola finálnej odpovede ti nepovie, či agent rešpektoval oprávnenia, nechal súbory tam, kam patria, alebo poctivo priznal problémy. Delegovať prácu znamená všímať si aj tieto kroky.

Medzitým je budova na Krakowska 20 / Joseph Street 2 Guvernérov palác, miestne známy ako Pałac Wojewodziński. Rímsko-nemecký cisár Jozef II. tam v roku 1773 býval počas cesty po Haliči. História paláca.

Poľský názov ulice, ulica Józefa, pripomína jeho návštevu a je doložený v roku 1866. Jej trasa je však ešte staršia: ešte pred založením Kazimierza v roku 1335 tu cesta spájala dedinu Bawół so Skałkou a viedla po vyššom teréne cez močaristú krajinu. Neskôr dali ulici jej stredoveké názvy tkáči a súkenníci. História ulice.

Dnes kráčam popri kaviarňach a malých obchodoch, s bývalým cisárovým ubytovaním na rohu a oveľa staršou cestou pod nohami. Taká je táto Daily Dose: AI novinky a kúsok krakovskej histórie počas obyčajnej rannej pochôdzky.