ШІ може вийти з-під контролю: дослідник Anthropic відмовився від кар’єри в галузі
Джейкоб Коксон, дослідник компанії Anthropic, прийняв рішення не тільки покинути свою посаду, а й цілком залишити сферу штучного інтелекту. Таке рішення було обумовлене його глибокими занепокоєннями щодо розвитку систем штучного інтелекту, які потенційно здатні до автономного самовдосконалення. На думку Коксона, подібні технології мають ризик з часом вийти з-під контролю людини, що створює серйозну загрозу для безпеки та стабільності.
Основні причини його кроку можна узагальнити таким чином:
- страх перед створенням систем, які зможуть самостійно адаптуватися та розвиватися без втручання людини;
- побоювання, що штучний інтелект у майбутньому може вийти за межі людського контролю;
- усвідомлення потенційних ризиків, які виникають зі швидким прогресом у цій галузі.
Таким чином, рішення Джейкоба Коксона відображає важливі дискусії у професійному середовищі технологічної індустрії щодо етичних і безпекових аспектів розвитку штучного інтелекту.
