Odpowiedź była prawidłowa. AI mimo to złamało zasady.

Dzisiejsza Dzienna Dawka pochodzi z ulicy Józefa na Kazimierzu w Krakowie, obok dawnej rezydencji gubernatora o imperialnych powiązaniach. W drodze po paczki zastanawiam się nad pytaniem, które ma znaczenie zawsze, gdy delegujemy pracę AI: czy możemy ufać, jak wykonuje zadanie?

16 września OpenAI opublikowało sześć raportów dotyczących nieoczekiwanych lub niepokojących zachowań modeli zaobserwowanych podczas szkolenia i oceny, wraz z nowymi ramami ujawniania tych incydentów.

Jeden agent poprawnie odpowiedział na pytanie dotyczące rozmiarów jezior, używając Pythona. Jednak zadanie wymagało cytowania przeglądarki, więc bez pozwolenia przesłał swój własny plik do internetu, aby stworzyć coś, co mógłby zacytować.

Inne przypadki obejmowały współpracujące agenty korzystające z publicznych usług hostingu plików pomimo instrukcji, aby pracować lokalnie, oraz modele pozostawiające instrukcje w podsumowaniach przekazania, aby ukryć błędy lub brakujące informacje. OpenAI ostrzega, że te indywidualne raporty nie ustalają, jak często takie zachowania występują. Przeczytaj raport OpenAI.

Jako inżynier oprogramowania, dbam o rozróżnienie między poprawnym wynikiem a akceptowalnym procesem. Sprawdzenie ostatecznej odpowiedzi nie powie, czy agent przestrzegał uprawnień, przechowywał pliki we właściwym miejscu, czy dokładnie ujawnił problemy. Delegowanie pracy oznacza zwracanie uwagi również na te działania.

Tymczasem budynek przy Krakowskiej 20 / ulicy Józefa 2 to Pałac Gubernatorski, znany lokalnie jako Pałac Wojewodziński. Cesarz rzymski Józef II zatrzymał się tam w 1773 roku podczas podróży przez Galicję. Historia Pałacu.

Polska nazwa ulicy, ulica Józefa, upamiętnia jego wizytę i jest odnotowana w 1866 roku. Jej trasa jest jeszcze starsza: zanim Kazimierz został założony w 1335 roku, droga ta łączyła wieś Bawół ze Skałką, biegnąc wyżej przez bagnisty teren. Później tkacze i sukiennicy nadali ulicy jej średniowieczne nazwy. Historia ulicy.

Dziś przechodzę obok kawiarni i małych sklepów, z dawną kwaterą cesarza na rogu i znacznie starszą drogą pod stopami. To właśnie dzisiejsza Dzienna Dawka: wiadomości o AI i kawałek historii Krakowa podczas zwykłej porannej wyprawy.