Компания Meta (экс-Facebook) планирует в 2024 году представить улучшенную модель искусственного интеллекта, которая не будет уступать самой мощной версии ChatGPT.
По данным The Wall Street Journal, новая модель будет в два раза более продвинутой, чем LLaMa 2 - модель, представленная Meta в июле и распространяемая через облачные услуги Microsoft Azure. LLaMa 2 была обучена на 70 миллиардах параметров, что на 40% больше, чем у можели LLaMa 1, представленной Meta в феврале. Хотя OpenAI не раскрывала наборы данных, на которых обучались ее модели GPT-3.5 и GPT-4, оценивается, что они включали около 1,5 триллиона параметров.
По данным WSJ, со своей новой моделью, как и в случае с LLaMa 2, Meta будет придерживаться философии открытого исходного кода. То есть, модель будет использоваться для помощи другим компаниям и разработчикам в создании сервисов, генерирующих сложный текст, анализ и другой контент.
Инсайдеры сообщают, что группа, разрабатывающая эту модель, была отобрана лично главой Meta Марком Цукербергом. Основное внимание команды сосредоточено на разработке генеративных инструментов искусственного интеллекта, способных создавать человекоподобные выражения. Обучение новой системы Meta начнется в начале 2024 года.
Meta считает, что новая модель будет так же мощной, как GPT-4, самая впечатляющая из больших языковых моделей, созданных OpenAI.
Гонка вооружений
В текущей гонке вооружений Meta конкурирует с такими гигантами, как Google, OpenAI, Microsoft и Apple. Все эти компании вкладывают ресурсы и финансы в разработку новейших моделей искусственного интеллекта.
Для создания таких сложных инструментов компаниям нужны мощные чипы для обучения искусственного интеллекта. В настоящее время Meta строит центры обработки данных и приобретает самые мощные чипы в мире - NVIDIA H100s - для обучения своих моделей.
Впрочем, неизвестно, станет ли модель Meta самой мощной на момент своего выхода в 2024 году. Компания SemiAnalysis, занимающаяся исследованиями полупроводников, сообщила несколько дней назад, что предстоящая генеративная модель искусственного интеллекта Google, получившая название Gemini, будет в пять раз мощнее самых продвинутых моделей GPT-4 на рынке.
Apple тоже участвует в этой борьбе. Компания, по сообщениям, тратит миллионы долларов в день на создание инструментов искусственного интеллекта. Сразу несколько команд работают над внедрением ИИ в Siri, голосового цифрового ассистента Apple. Apple также разрабатывает собственный фреймворк LLM под названием "Ajax" и уже имеет собственного чат-бота под названием "Apple GPT", который используется и тестируется среди сотрудников компании.
