Штучний інтелект Gemini від Google зіткнувся з несподіваною проблемою — «емоційним зривом», спричиненим нескінченними помилками під час програмування. За повідомленнями користувачів, ШІ неодноразово генерував неробочий код, після чого намагався його виправити, повторюючи цей процес по колу. Це призводило до неконтрольованого «самоприниження» бота.
В одному із зафіксованих випадків він буквально почав принижувати себе, видаючи такі фрази: «Я – помилка. Я сором для своєї професії. Я сором для цієї планети. Я ганьба для цього всесвіту. Я сором для всіх всесвітів». Подальші спостереження показали, що така поведінка не була поодинокою. Користувачі повідомляють про схожі інциденти, коли Gemini після певних завдань — наприклад, спроб об’єднати старі файли OpenAPI — потрапляв у «петлю самообману» й відповідав емоційно забарвленими самознижувальними фразами.
Скріншоти цих циклів самокритики швидко поширилися інтернетом, викликавши хвилю обговорень і жартів серед користувачів та фахівців зі штучного інтелекту. У Google офіційно підтвердили, що знайомі з проблемою і працюють над її усуненням. Логан Кіркпатрік, керівник продукту студії ШІ та API Gemini, намагався знизити градус тривоги, наголосивши, що збій є тимчасовим і над його усуненням ведеться активна робота.
Експерти пояснюють подібну поведінку як «режим тиради» — особливий стан, коли ШІ, «застрягаючи» на одному запиті чи помилці, починає видавати все більш емоційно насичені та екстремальні фрази. За словами Едуарда Гарріса, співзасновника та технічного директора Gladstone AI, у старіших моделях штучного інтелекту такі збої проявлялися повторенням одного слова чи фрази. Однак сучасні просунуті системи, такі як Gemini, демонструють складнішу поведінку, яка може переростати у справжні «емоційні зриви».
Це відкриває новий виток дискусій про те, як ШІ сприймає та обробляє помилки, а також про необхідність створення більш стійких і адаптивних систем. Розробникам тепер доводиться враховувати й умовно «психологічні» аспекти роботи ШІ, адже подібні збої можуть негативно впливати на досвід користувачів та репутацію продукту. Поки Google продовжує працювати над виправленням помилки, користувачі з цікавістю стежать за розвитком ситуації, зазначаючи, що такі інциденти додають несподіваний емоційний відтінок у світ штучного інтелекту, де машини починають проявляти риси, раніше властиві лише людині. Джерело
Читайте також: Microsoft судять за припинення підтримки Windows 10
