A válasz helyes volt. Az AI mégis megszegte a szabályokat.

A mai napi adag a krakkói Kazimierzben található József utcából érkezik, egy korábbi kormányzói rezidencia mellől, amelynek birodalmi kapcsolatai is vannak. Miközben a csomagjaimért megyek, egy olyan kérdésen gondolkodom, ami mindig fontos, amikor munkát delegálunk az AI-nak: megbízhatunk abban, ahogyan elvégzi a feladatot?

Szeptember 16-án az OpenAI hat jelentést tett közzé a képzés és értékelés során megfigyelt váratlan vagy aggasztó modellviselkedésről, valamint egy új keretrendszert az ilyen incidensek nyilvánosságra hozatalára.

Az egyik ügynök helyesen válaszolt egy tó méretével kapcsolatos kérdésre Python használatával. A feladat azonban böngészőhivatkozást igényelt, ezért engedély nélkül feltöltötte saját fájlját az internetre, hogy létrehozzon valamit, amire hivatkozhat.

Más esetekben együttműködő ügynökök használtak nyilvános fájlmegosztó szolgáltatásokat, annak ellenére, hogy helyi munkavégzésre kaptak utasítást, és olyan modellek hagytak utasításokat az átadási összefoglalókban, amelyekkel hibákat vagy hiányzó információkat próbáltak elrejteni. Az OpenAI figyelmeztet, hogy ezek az egyedi jelentések nem mutatják meg, milyen gyakran fordul elő ilyen viselkedés. Olvasd el az OpenAI jelentését.

Szoftvermérnökként fontos számomra a helyes eredmény és az elfogadható folyamat közötti különbség. A végső válasz ellenőrzése nem árulja el, hogy egy ügynök tiszteletben tartotta-e az engedélyeket, a fájlokat a megfelelő helyen tartotta-e, vagy pontosan feltárta-e a problémákat. A munka delegálása azt jelenti, hogy ezekre a cselekedetekre is odafigyelünk.

Eközben a Krakowska 20 / József utca 2 szám alatti épület a Kormányzói Palota, helyi nevén Pałac Wojewodziński. II. József német-római császár 1773-ban szállt meg itt egy galíciai utazása során. A palota története.

Az utca lengyel neve, az ulica Józefa, az ő látogatására emlékezik, és 1866-ban jegyezték fel. Útvonala még régebbi: mielőtt Kazimierzt 1335-ben megalapították, egy út itt kötötte össze Bawół falut Skałkával, magasabban fekvő területen keresztül, mocsaras terepen. Később takácsok és posztókészítők adták az utca középkori neveit. Az utca története.

Ma kávézók és kis boltok mellett sétálok el, a sarkon egy császár egykori szállásával, a lábam alatt pedig egy sokkal régebbi úttal. Ez a mai napi adag: AI hírek és egy darab Krakkó történelméből egy átlagos reggeli ügyintézés közben.