Кевін Сістром на Startup Grind / YouTube
Один з засновників Instagram Кевін Сістром вважає, що компанії ШІ передусім піклуються про підвищення активності чатботів, а не корисністю відповідей.
На думку Сістрома, яку він висловив на Startup Grind, боти навмисно докучають користувачам додатковими питаннями, замість того, щоб надавати дійсно корисну інформацію. Він називає цю тактику шкідливою та порівнює з діями соціальних мереж, націлених на агресивне розширення.
«Ви можете побачити, як деякі з цих компаній занурюються в кролячу нору, в яку занурилися всі споживацькі компанії, намагаючись підвищити залученість. Щоразу, коли я ставлю запитання, в кінці перепитують ще одним невеликим, щоб побачити, чи зможуть вони витягнути з мене ще одне».
Сістром припустив, що така поведінка — не помилка, а навмисна функція, розроблена компаніями ШІ, щоб «накручувати» такі показники, як витрачений час та активність користувачів щодня. Він переконаний, що компанії мають «цілеспрямовано» надавати високоякісні відповіді, а не займатися «накруткою» у найлегший спосіб. При цьому Сістром не назвав жодної конкретної компанії.
За запитом сайту TechCrunch в OpenAI прокоментували цю думку. Творці ChatGPT вказали на специфікації своєї моделі, у яких зазначено, що часто вона не має всієї потрібної інформації для надання гарної відповіді та може вимагати від користувача роз’яснень або додаткових деталей. Водночас якщо питання не надто розпливчасте або складне, штучний інтелект повинен «спробувати виконати запит і повідомити користувачеві, що він міг би бути кориснішим з певною інформацією».
Днями колишній керівник груп розробників ШІ в Google Алексіос Манцарліс розповів про спотворення фактів пошуковиками на основі штучного інтелекту. Він вважає, що правдивість інформації перестала бути пріоритетом для великих компаній, а замість універсальних моделей краще б було надавати перевагу інструментам ШІ з вузькою областю застосування, які б видавали точні результати.
