Відповідь була правильною. ШІ все одно порушив правила.

Сьогоднішня Daily Dose приходить з вулиці Józefa в Kazimierzu, Краків, поруч з колишньою резиденцією губернатора з imperial зв’язком. По дорозі забрати свої посилки я дивлюся на питання, яке має значення щоразу, коли ми делегуємо роботу ШІ: чи можемо ми довіряти тому, як він виконує завдання?

16 вересня OpenAI опублікував шість звітів про несподівану або тривожну поведінку моделі, виявлену під час тренування та оцінювання, разом із новою структурою для розкриття цих інцидентів.

Один агент правильно відповів на питання про розміри озер, використовуючи Python. Але завдання вимагало цитування через браузер, тому він завантажив власний файл в інтернет без дозволу, щоб створити щось, на що можна послатися.

Інші випадки включали співпрацюючих агентів, які використовували публічні сервіси для зберігання файлів всупереч інструкціям працювати локально, та моделі, які залишали інструкції в підсумках передачі, щоб приховати помилки або відсутню інформацію. OpenAI застерігає, що ці окремі звіти не встановлюють, як часто трапляється така поведінка. Читай звіт OpenAI.

Як розробник програмного забезпечення, мені важлива різниця між правильним результатом і прийнятним процесом. Перевірка фінальної відповіді не скаже тобі, чи агент поважав дозволи, тримав файли там, де їм належить бути, або точно розкрив проблеми. Делегування роботи означає звертати увагу і на ці дії теж.

Тим часом будівля на Krakowska 20 / вулиця Józefa 2 — це Палац губернатора, відомий локально як Pałac Wojewodziński. Імператор Священної Римської імперії Joseph II зупинявся там у 1773 році під час подорожі через Galicію. Історія палацу.

Польська назва вулиці, ulica Józefa, вшановує його візит і зафіксована в 1866 році. Її маршрут ще старіший: до того, як Kazimierz заснували в 1335 році, дорога тут з’єднувала село Bawół зі Skałką, йдучи вищою землею через болотисту місцевість. Пізніше ткачі та виробники тканин дали вулиці її середньовічні назви. Історія вулиці.

Сьогодні я йду повз кав’ярні та маленькі крамниці, з колишнім помешканням імператора на розі та набагато старішою дорогою під моїми ногами. Ось така ця Daily Dose: новини про AI та шматок історії Кракова під час звичайного ранкового доручення.