Жахи нейронних мереж. Частина 2: На яких ваших даних навчаються нейромережі

ШІ міцно увійшов у наше життя. З його допомогою ми шукаємо інформацію, намагаємося згадати забуті твори, генеруємо картинки або просто спілкуємося. А ви замислювались, як він став таким розумним? У цій статті розглянемо, звідки вони беруть дані і які наслідки це має.

Як випливає з назви, це друга частина. Якщо ще не бачили першу, рекомендую з нею ознайомитися. Нагадаю, що в ній ми поговорили про типи ліцензій, звідки беруться дані для навчання ШІ, кому належить право на згенерований контент і про цікавий випадок з безправною мавпою. Тепер же розглянемо, які ваші дані збирають такі гіганти, як Google і OpenAI, для навчання нейромереж і чим це може загрожувати.

Натрапив на цікаве судове розглядання, відоме як «Andersen v. Stability AI», в якому художники (включаючи і Сару Андерсен) подали позов проти Stability AI, Midjourney і DeviantArt (в процесі деякі нейронки прибиралися, деякі додавалися). Оскільки тяжби ще тривають, не бачив сенсу сильно на цьому акцентувати увагу. Але якщо цікаво, то з усіма юридичними документами і коротким описом усіх важливих поворотів у цій справі можете ознайомитися тут.

І ще одне невеличке (дійсно невеличке) відступлення.

Дехто може сказати: «Піратство було завжди! Раніше також копіювали стиль авторів і продавали втридорога», на що відповідаю. Так, завжди були люди, які копіювали стиль іншого автора, але вони також були авторами. Коли копіює інша людина, вона все одно вносить крупиці своєї сутності, будь то довжина волосся, зачіска або ширина ліній (як у випадку з карикатурами на основі робіт Сари Андерсен). Інколи, навіть написавши ідеальні підробки, вона може запам'ятатися в історії. Як, наприклад, Ван Мегерен.

Але ШІ не може свідомо створити щось. Це просто алгоритм. Замкнений робот у китайській кімнаті. Він не знає жодної мови, окрім математичної. Отримує в віконці запит і відправляє на вихід результат обчислень, який отримався внаслідок заплутаних інструкцій. Все. Він не може по-справжньому думати, не може відчувати. Не може свої відчуття передати в тексті чи на полотні. Це інструмент, але ніяк не творець (для більш детального розбору процесу навчання ШІ дуже раджу ролик Шарифова на цю тему).

Тепер, коли з цим розібралися, можемо нарешті почати статтю.

Поговоримо про те, як компанії використовують наші дані для навчання своїх моделей. Почнемо, мабуть, з Google.

Станом на 2024 рік близько 70% людей, які володіють смартфонами, надають перевагу Android-пристроям. Ми зберігаємо паролі в акаунті Гугл, ставимо маршрути на Гугл Картах, дивимося і коментуємо відео на Ютубі. Навіть для позначення пошуку через інтернет придумали новий термін — «гуглити». Настільки його сервіси «вплелися» в наше життя. Google має одну з найбільш обширних баз даних про нас. До речі, можна запросити експорт своїх даних, щоб дізнатися, скільки терабайтів інформації про вас накопичилося у техно-гіганта.

Але як компанія ними розпоряджається? Про це можна прочитати в Ліцензійній угоді та Політиці конфіденційності — купі тексту, з якою всі погоджуються, не читаючи. Навіть факт використання сервісів «Гугл» означає згоду з написаним у цьому документі.

Ось що написано в Політиці конфіденційності (зміг знайти потрібні пункти, тільки запросив PDF-версію файлу).

Яка саме інформація знаходиться в публічному доступі? Наприклад, відео та коментарі на «Ютубі» (які мають відкритий доступ), відгуки на «Гугл Картах» і «Плей Маркеті», записи в блозі і т. д. Іншими словами, все, що не приколочено цвяхами приватності. Подивитися, які сервіси Google ви використовували і в якому обсязі, можна тут. За посиланням можна знайти список усіх коли-небудь встановлених додатків, відгуки і збережені місця на Картах, листи на пошті, фото, завдання, дані на «Гугл Диску» та інше. Я, наприклад, з подивом дізнався, що понад 6 років тому робив пару записів у Blogger (навіть встиг забути, що цей сервіс існує).

Якщо ви подивилися і жахнулися, настійно рекомендую витратити 10 хвилин на зміни налаштувань конфіденційності, щоб що витікає водоспад ваших даних перетворився в невеличкий струмочок. Повністю перекрити «кран» можна, тільки якщо не користуватися нічим, де є хоч рядок коду, що належить Google. А в ідеалі — пересісти на луковицю (хто зрозумів, той зрозумів).

Тепер перейдемо до OpenAI. В останній час багато хто почав використовувати продукти цієї компанії для своїх цілей. Одні сприймають її як зручну заміну Гуглу, іншим подобається з нею спілкуватися, а третім — створювати картинки, подібні цій.

І не дивно, що вона отримала таку популярність. Адже видача ChatGPT, на особисту думку, в рази краща, ніж у Copilot. Але як вона цього досягла, адже повинні були закінчитись вільні шматочки інформації, розкидані по інтернету. А вони і закінчились. Принаймні, авторитетні та англомовні. Тому що, незважаючи на незліченну кількість користувацького контенту на Reddit або X, компанії сковані всякими законами та іншими папірцями. Завдяки цьому стримуючому фактору, вони не можуть безцеремонно забрати ваш арт для навчання нейросеті (за винятком тих випадків, коли можуть). Тому вони йдуть на різні хитрощі та шукають лазівки в законах.

Про це заявило видання The New York Times у своєму розслідуванні.

У ньому також йдеться, що одна з великих компаній радилися про збір робіт, захищених авторським правом. Вони розглядали можливість використання даних з усього інтернету, навіть якщо це може призвести до судових позовів. Адже, за їхніми словами, переговори про ліцензії з видавцями, художниками, музикантами та новинними виданнями займуть занадто багато часу.

Але от що багато часу не зайняло, так це партнерство OpenAI та Google з Reddit. Ресурс надає контент через своє API, а ті, у свою чергу, вносять ІІ-фішки на платформу. Однією з них є Reddit Answers: чат-бот, покликаний полегшити пошук інформації на платформі.

У статті The New York Times також розповідається, як OpenAI за допомогою створеного інструменту розпізнавання мови транскрибувала аудіо з більш ніж мільйона годин відео з «Ютуба» (це підтвердили різні джерела всередині компанії). Розшифрований текст вона «скорміла» GPT-4. До слова, після цього Google змінив умови, і тепер можна самим давати згоду на навчання сторонніх нейросетей за допомогою ваших відео. За замовчуванням все заборонено, але якщо хочете дозволити, то дотримуйтесь цієї офіційної інструкції.

За деякими відомостями, Google не зупинила OpenAI, адже сама використовувала розшифровки відео для навчання своєї моделі.

Саме видання також постраждало від дій нейросеті. Так, 27 грудня 2023 року The New York Times подала скаргу проти Microsoft та OpenAI, стверджуючи, що мільйони авторських прав були прямо чи опосередковано порушені через включення їх статей у бази даних, на яких були навчено ChatGPT та Microsoft Copilot. Пізніше справу об'єднали з позовами від інших медіа, включаючи Center for Investigative Reporting. Судові слухання досі тривають, тож поки рано робити висновки. Ознайомитися з усіма етапами розглядів та документацією можна за посиланням.

Постраждали не тільки контентмейкери, але й самі користувачі сервісів OpenAI. Так, у минулому році компанія була оштрафована на 15 000 000 євро за використання персональних даних користувачів для навчання ChatGPT без повідомлення та дозволу самих користувачів, повідомляє видання Reuters.

Ви могли запитати: «А хіба не забагато даних вони поглинають? Коли вони нарешті „наїдяться“ інформацією і перестануть її поглинати?». Відповідь: ніколи. Принаймні, самі компанії не мають наміру знижувати оберти.

У 2020 році Джаред Каплан, фізик-теоретик з Університету Джона Хопкінса, опублікував новаторську статтю «Scaling Laws for Neural Language Models», яка викликала великий інтерес. У ній він детально досліджував, як від розміру моделі та обчислювальних потужностей залежить кінцевий результат. Якщо коротко: чим більше — тим краще. Чим більше інформації вбирають моделі — тим краще у них висновок.

Саме з 2020 року і почався бум нейромереж (в розслідуванні NYTimes, наведеному вище, є інфографіка, рекомендую ознайомитися). Тому після вичерпання перевірених і достовірних джерел всі почали хапатися за будь-які дані, вироблені людьми.

Нейромережі навчаються на ваших відео, коментарях, постах і навіть фото, якщо власник майданчика, де все це розміщено, не проти співпраці з ними. Якщо не хочете, щоб ваші дані були скормлені ШІ, — читайте ліцензійну угоду в сервісах, в яких публікуєте контент (але і це не завжди рятує).

У наступній статті розберемо, чому небезпечно ділитися з чат-ботом конфіденційною інформацією і яку загрозу це несе.

Сподіваюся, що в наступній серії вже доберуся до самого цікавого. А то приступаю до написання і знаходжу багато матеріалу по темі, від чого вступний підзаголовок розростається в повноцінний пост. Спробував більш коротко про все розповісти, але не впевнений, чи вийшло цікаво. Якщо дочитали до цього моменту, поділіться думкою про статтю. Про що б ви хотіли, щоб я розповів, або де я чого недогледів. Будь-яка інформація ззовні буде важлива. Ну а на цьому я з вами прощаюсь. До наступної статті!