Давайте погрузимся в увлекательный мир искусственного интеллекта и различных разновидностей больших языковых моделей (LLM), предлагаемых такими крупными игроками, как OpenAI, Anthropic, Google, Cohere и Meta. Если вы думаете о включении этих умных ботов в свои проекты, разобраться с их ценами довольно важно. Итак, давайте разберем это, не так ли?
Подноготная токенов
Во-первых, цены на эти чудеса искусственного интеллекта обычно вращаются вокруг чего-то, называемого “токенами”. Представьте токен как крошечную часть слова. Чтобы представить это в перспективе, 1000 токенов примерно эквивалентны примерно 750 словам. Например, предложение “Этот абзац состоит из 5 токенов” само по себе считается 5 токенами.
Удобное эмпирическое правило заключается в том, что в английском языке длина токена составляет около четырех символов, что составляет примерно три четверти слова. Если вы работаете не с английским, а с другими языками, например с японским, математика немного меняется.
Как обстоят дела с длиной контекста?
Когда мы говорим о LLM, особенно от OpenAI, вы часто слышите о “длине контекста”. Это ключевая концепция, потому что она влияет на то, насколько хорошо работает модель, что она может делать и, да, сколько это стоит.
Итак, что именно такое длина контекста?
Думайте о длине контекста как о краткосрочной памяти модели для текущей задачи. Это объем информации (или количество токенов), которым модель может манипулировать в любой данный момент. Допустим, длина контекста модели составляет 8000 токенов; это означает, что она может учитывать до 8000 токенов из того, что вы ей передаете за один раз.
Почему вас должна волновать длина контекста?
- Сложность задачи: Большая длина контекста позволяет модели решать более сложные задачи, такие как подведение итогов длительного чтения или изучение подробных документов.
- Плавные диалоги: Для чат-ботов более длинный контекст означает, что модель может запомнить больше из чата, что приводит к ответам, которые имеют больше смысла и более по существу.
- Ценник: Как правило, чем больше длина контекста, тем дороже модель, потому что для нее требуется больше вычислительных ресурсов.
Разные модели для разных нужд
Крупные компании в области искусственного интеллекта разработали множество моделей, каждая из которых имеет свои сильные стороны и ценовые ориентиры, и обычно они взимаются за 1000 токенов.
- OpenAI GPT-4: Он немного всезнайка, отлично выполняет сложные инструкции и решает сложные задачи. Он дороже и не самый быстрый в мире. Новая версия GPT-4 Turbo, тем не менее, в три раза дешевле и может обрабатывать колоссальные 128 тыс. токенов одновременно! Кроме того, вы можете получить к нему доступ через службу Microsoft Azure OpenAI.
- OpenAI GPT-3.5 Turbo: Оптимизирован для чат-ботов и диалоговых интерфейсов, что делает его незаменимым инструментом для создания таких приложений. Благодаря своей эффективности и скорости работы, он обеспечивает быстрые и качественные ответы, не нанося значительного ущерба банку. Также, GPT-3.5 Turbo доступен через службу Microsoft Azure OpenAI, что обеспечивает удобство и доступность для разработчиков, желающих использовать его в своих проектах..
- Anthropic’s Claude 3: Известен своей впечатляющей длиной контекста токена в 200 тыс., что делает его чемпионом в обобщении или обработке вопросов и ответов по объемистым документам. Компромисс? Это более медленная и дорогая сторона.
- Llama 2: подарок Meta миру, Llama 2 – это модель с открытым исходным кодом, которая практически не уступает GPT-3.5 Turbo по производительности и может даже превзойти GPT-4 за свои деньги в переводе текста на английский — в 30 раз дешевле! В чем подвох? Доступно только для английского языка.
- Gemini: Последняя версия Google, разделенная на Gemini Ultra, Gemini Pro и Gemini Nano, анонсирована 6 декабря 2023 года. Gemini Ultra присматривается к трону, который в настоящее время занимает GPT-4 от OpenAI, в то время как Gemini Pro больше похож на GPT-3.5 с точки зрения производительности.
- PaLM 2: более старая модель от Google, которая отлично справляется с многоязычными задачами, рассуждениями и программированием. Обученный работе с текстами на более чем 100 языках, он отлично разбирается в сложных языковых нюансах и может похвастаться впечатляющими навыками логики и программирования.
- Mistral: Компания Mistral AI, новичок на рынке, выпустила несколько отличных моделей с открытым исходным кодом, которые являются быстрыми и доступными. Mistral 7B и Mistral 8x7B (Mixtral) являются отличными вариантами, предлагающими производительность, сравнимую с GPT-3.5 Turbo, при стоимости в 2,5 раза меньшей. Mistral Large, хотя и частный, демонстрирует многообещающие результаты в решении задач на нескольких языках.
И вот оно — краткий экскурс в мир ценообразования LLM. Создаете ли вы следующее замечательное приложение или просто занимаетесь искусственным интеллектом, существует модель, которая соответствует всем требованиям. Приятного кодирования!
Ценообразование LLM
OpenAI
|
gpt-4-32k | 32 тыс. | $60 | $120 | ссылка |
2024-03-16 03:00
|
OpenAI
|
gpt-4 | 8 тыс. | $30 | $60 |
2024-03-16 03:00
|
|
OpenAI
|
gpt-4-0125- предварительный просмотр | 128K | $10 | $30 |
2024-03-16 03:00
|
|
OpenAI
|
gpt-4-1106- предварительный просмотр | 128K | $10 | $30 |
2024-03-16 03:00
|
|
OpenAI
|
gpt-4-1106- видение-предварительный просмотр | 128K | $10 | $30 |
2024-03-16 03:00
|
|
OpenAI
|
gpt-3.5-turbo-0125 | 16K | $0.5 | $1.5 |
2024-03-16 03:00
|
|
OpenAI
|
gpt-3.5-turbo-инструкция | 4K | $1.5 | $2 |
2024-03-16 03:00
|
|
OpenAI
|
gpt-3.5-turbo-1106 | 4K | $1 | $2 |
2024-03-16 03:00
|
|
OpenAI
|
gpt-3.5-turbo-0613 | 4K | $1.5 | $2 |
2024-03-16 03:00
|
|
OpenAI
|
gpt-3.5-turbo-16k-0613 | 4K | $3 | $4 |
2024-03-16 03:00
|
|
OpenAI
|
gpt-3.5-turbo-0301 | 4K | $1.5 | $2 |
2024-03-16 03:00
|
|
Azure
|
gpt-4-32k | 32 тыс. | $60 | $120 |
2024-03-16 03:00
|
|
Azure
|
gpt-4 | 8 тыс. | $30 | $60 |
2024-03-16 03:00
|
|
Azure
|
gpt-4-turbo | 128K | $10 | $30 |
2024-03-16 03:00
|
|
Azure
|
gpt-4-turbo-vision | 128K | $10 | $30 |
2024-03-16 03:00
|
|
Azure
|
gpt-3.5-turbo-0125 | 16K | $0.5 | $1.5 |
2024-03-16 03:00
|
|
Azure
|
gpt-3.5-turbo-инструкция | 4K | $1.5 | $2 |
2024-03-16 03:00
|
|
Anthropic
|
claude-3-opus | 200 тыс. | $15 | $75 |
2024-03-16 03:00
|
|
Anthropic
|
клод-3-сонет | 200 тыс. | $3 | $15 |
2024-03-16 03:00
|
|
Anthropic
|
клод-3-хайку | 200 тыс. | $0.25 | $1.25 |
2024-03-16 03:00
|
|
Anthropic
|
клод-2.1 | 200 тыс. | $8 | $24 |
2024-03-16 03:00
|
|
Anthropic
|
claude-2.0 | 100 тыс. | $8 | $24 |
2024-03-16 03:00
|
|
Anthropic
|
claude-instant-1.2 | 100 тыс. | $0.8 | $2.4 |
2024-03-16 03:00
|
|
AWS
|
jurassic-2-ultra | 32 тыс. | $18.8 | $18.8 |
2024-03-16 03:00
|
|
AWS
|
юрский период-2-середина | 32 тыс. | $12.5 | $12.5 |
2024-03-16 03:00
|
|
AWS
|
titan-текст-lite | 32 тыс. | $0.3 | $0.4 |
2024-03-16 03:00
|
|
AWS
|
titan-текст-экспресс | 32 тыс. | $0.8 | $1.6 |
2024-03-16 03:00
|
|
AWS
|
claude-мгновенный | 32 тыс. | $0.8 | $2.4 |
2024-03-16 03:00
|
|
AWS
|
клод-2.0/2.1 | 32 тыс. | $8 | $24 |
2024-03-16 03:00
|
|
AWS
|
клод-3-сонет | 32 тыс. | $3 | $15 |
2024-03-16 03:00
|
|
AWS
|
клод-3-хайку | 32 тыс. | $0.25 | $1.25 |
2024-03-16 03:00
|
|
AWS
|
команда | 32 тыс. | $1.5 | $2 |
2024-03-16 03:00
|
|
AWS
|
команда-light | 32 тыс. | $0.3 | $0.6 |
2024-03-16 03:00
|
|
AWS
|
llama-2-чат-13B | 32 тыс. | $0.75 | $1 |
2024-03-16 03:00
|
|
AWS
|
llama-2-чат-70B | 32 тыс. | $1.95 | $2.56 |
2024-03-16 03:00
|
|
AWS
|
mistral-7b | 32 тыс. | $0.15 | $0.2 |
2024-03-16 03:00
|
|
AWS
|
mistral-8x7b | 32 тыс. | $0.45 | $0.7 |
2024-03-16 03:00
|
|
Google
|
gemini-pro | 32 тыс. | $0.13 | $0.38 |
2024-03-16 03:00
|
|
Google
|
palm-2-для-чата | 8 тыс. | $0.25 | $0.5 |
2024-03-16 03:00
|
|
Google
|
palm-2-за-чат-32 тыс. | 32 тыс. | $0.25 | $0.5 |
2024-03-16 03:00
|
|
Google
|
palm-2-для-текста | 8 тыс. | $2.5 | $7.5 |
2024-03-16 03:00
|
|
Google
|
palm-2-for-text-32k | 32 тыс. | $2.5 | $5 |
2024-03-16 03:00
|
|
Mistral
|
mistral- крупный | 32 тыс. | $8 | $24 |
2024-03-16 03:00
|
|
Mistral
|
mistral-средний | 32 тыс. | $2.7 | $8.1 |
2024-03-16 03:00
|
|
Mistral
|
mistral-малый | 32 тыс. | $2 | $6 |
2024-03-16 03:00
|
|
Mistral
|
mixtral-8x7b | 32 тыс. | $0.7 | $0.7 |
2024-03-16 03:00
|
|
Mistral
|
mistral-7b | 32 тыс. | $0.25 | $0.25 |
2024-03-16 03:00
|
|
Cohere
|
команда-r | 4K | $0.5 | $1.5 |
2024-03-16 03:00
|
|
Cohere
|
команда-light | 4K | $0.3 | $0.6 |
2024-03-16 03:00
|
|
Cohere
|
command-light-доработан | 4K | $0.3 | $0.6 |
2024-03-16 03:00
|
|
Groq
|
llama-2-70b | 4K | $0.7 | $0.8 |
2024-03-16 03:00
|
|
Groq
|
llama-2-7b | 2 тыс. | $0.1 | $0.1 |
2024-03-16 03:00
|
|
Groq
|
mixtral-8x7b | 32 тыс. | $0.27 | $0.27 |
2024-03-16 03:00
|
|
Groq
|
gemma-7b | 8 тыс. | $0.1 | $0.1 |
2024-03-16 03:00
|