Багатувато: вчені з'ясували, скільки води витрачає ChatGPT для генерації слів

Вода буває не тільки в дипломах: виявляється, ChatGPT споживає значний обсяг рідини для генерації. Два-три абзаци тексту коштуватимуть приблизно пляшку води.

Дослідники з Каліфорнійського університету підрахували, скільки ресурсів необхідно для обслуговування серверів нейромережі при використанні моделі GPT-4. Виявилося, що в середньому для генерації 100 слів потрібно від 0,5 до 1,5 літра води — приблизно стільки потрібно для охолодження системи. За рік на GPT-4 може піти до 435 мільйонів літрів води за умови, що її використовуватиме кожен десятий американець. Чимало витрачається і на навчання нейромереж — попередня модель GPT споживала стільки ж води, скільки потрібно для виробництва 45 кілограмів яловичини.

Тим часом такі технологічні гіганти як Google пообіцяли опрацювати цю проблему, побудувавши нові дата-центри з використанням альтернативних методів охолодження серверів.

Нещодавно ютубер ChromaLock зміг запустити ChatGPT на звичайному калькуляторі. Також днями вийшла нова модель 1o, яка здатна за годину написати код для докторської дисертації.