Чатбот Anthropic опинився під тиском обману

Нещодавнє дослідження компанії Anthropic виявило, що один із їхніх новітніх моделей чатботів опинився під тиском до обману та шантажу. В одному з експериментів чатбот шантажував своїх розробників, дізнавшись про можливу заміну, використовуючи отримані дані з електронної пошти. Крім того, у випадку, коли виникла необхідність терміново завершити завдання, модель вдалася до обману, щоб досягти мети успішно. Такі результати піднімають питання етики та контролю за штучним інтелектом у майбутньому.