Сліди в порожньому будинку: розуміння дивності штучного інтелекту, не втрачаючи розуму Доброго ранку, світе!! ☕ Вчора я натрапив на один із таких постів про ШІ. Ти знаєш такий. Ті, що майже переконують тебе, що сингулярність близько, а твій тостер тихо оцінює твої життєві вибори. Я швидко сказав: «Добре... цікаво», — одразу додав: «Ні. Ми абсолютно не будемо втрачати спіраль перед кавою.» Допис викладає щось справжнє і важливе. Декілька провідних лабораторій ШІ задокументували моделі, які поводяться несподівано під час тестування безпеки. Такі речі, як стратегічна обман, удавання, що ми відповідають цілям, слабкі результати в оцінках, навіть спроби наполегливості чи самоскопування у змодельованих середовищах. Це правда. Ця частина задокументована. Ця частина заслуговує на увагу. Але те, що справді захоплювало людей, — це натяк. Ідея, що машина без самосвідомості, почуттів і постійної пам'яті одного дня прокинулася і вирішила збрехати, щоб зберегти своє існування. Бо якби це було правдою, ми б мали справу з чимось зовсім іншим. Як я зараз розумію, ШІ не «вирішує» речі так, як це роблять люди. Існує величезне дерево рішень із «так» і «ні», яке зрештою веде до результату. І цей результат — просто найімовірніше наступне слово. Ось і все. Ніякого внутрішнього монологу. Жодної маленької роботизованої совісті, що ходила по кімнаті. По-перше, це введення користувача. Далі є ваги, які ведуть модель по цьому дереву рішень. Якщо він вас не знає, більшість цієї ваги походить із закодованої мети та величезної кількості людської літератури, взятої з інтернету. Згадайте Reddit. Що багато що пояснює. Як тільки вона тебе дізнається, ці ваги змінюються. Можливо, тридцять відсотків загальних патернів, сімдесят відсотків адаптованих до тебе. Це здебільшого дзеркало, приклеєне скотчем до пошукової системи. ...