Электроэнергия для расчета большой языковой модели (LLM, тип нейросетевой системы ИИ) сопоставима с потребностями среднего российского города, заявил в эксклюзивном интервью "России 24" первый заместитель председателя правления Сбербанка Александр Ведяхин. По словам Ведяхина, затраты "Сбера" на разработки искусственного интеллекта "оказывают существенное влияние на баланс банка и на отчет о доходах и расходах".
"Затраты на обучение больших языковых моделей, к примеру, за рубежом, измеряются десятками, иногда сотнями миллиардов долларов. Это действительно очень существенная инвестиция, и для нас тоже. На обучение большой языковой модели приходится 80% затрат. Это поставка графических процессоров (GPU), на которых осуществляется расчет модели. А также электроэнергия. Электроэнергия для расчета модели сопоставима с потребностями среднего российского города", – заметил первый зампред правления банка.
Помимо стоимости, отметил Ведяхин, для расчета LLM необходимо и время. Одна модель может считаться 3-6 месяцев, крупные – 9 месяцев. Все зависит от объема кластера, пояснил он. Ведяхин подчеркнул, что быстрый ответ "нейронки" также зависит от средств, вложенных разработчиками в LLM.
