Майже щодня я отримую подібні запитання. Після допомоги у створенні понад 20 інтелектуальних агентів штучного інтелекту та значного вкладення коштів у тестову модель, я зробив деякі справді ефективні висновки.
Нижче наведено повний посібник з вибору відповідного LLM.
Джерело зображення: TechFlow
Поточна велика мовна модель (LLM) швидко змінюється. Практично щотижня виходять нові моделі, і кожна з них стверджує, що вона є "найкращою".
Але реальність така: немає жодної моделі, яка б відповідала всім потребам.
Кожна модель має свої специфічні сфери застосування.
Я вже протестував десятки моделей, сподіваюся, моє досвід допоможе вам уникнути непотрібного витрати часу та грошей.
Джерело зображення: TechFlow
Важливо зауважити, що цей матеріал не є результатом лабораторних вимірювань або маркетингової пропаганди.
Я поділюся практичним досвідом побудови штучного інтелекту та продуктів генеративного штучного інтелекту (GenAI), які я створював своїми власними руками протягом останніх двох років.
По-перше, нам потрібно зрозуміти, що таке LLM:
Великі мовні моделі (LLM) схожі на навчання комп'ютерів «говорити». На основі того, що ви вводите, він прогнозує найімовірніші слова, які з'являться наступними.
Початковою точкою цієї техніки є класична стаття: Увага - все, що вам потрібно
Основи - Закритий джерела коду та відкритий джерела коду LLM:
Закритий вихідний код: наприклад, GPT-4 і Claude, зазвичай оплачуються за використання, і вони працюють на серверах провайдера.
Відкритий вихідний код: наприклад, Llama та Mixtral від Meta, потребує самостійного розгортання та виконання користувачем.
Напочатку можна заплутатися в цих термінах, але розуміння різниці між ними дуже важливе.
Джерело зображення: TechFlow
Розмір моделі не завжди означає кращу продуктивність:
Наприклад, 7B означає, що модель має 70 мільярдів параметрів.
Проте більша модель не завжди виявляється кращою. Ключ у виборі моделі, що відповідає вашим конкретним потребам.
Джерело зображення: TechFlow
Якщо вам потрібно створити бота X/Twitter або соціальний штучний інтелект:
@xai's Grok - дуже хороший вибір:
Надає щедру безкоштовну квоту
Ви маєте велике розуміння соціального контексту
Навіть якщо це закрите джерело, воно дуже варте спробувати
Настійно рекомендую використовувати цю модель для початківців розробників! (Маленька розмова:
Модель за замовчуванням Eliza від @ai16zdao використовує XAI Grok）
Якщо вам потрібно працювати з багатомовним контентом:
Модель QwQ від @Alibaba_Qwen виявилася дуже ефективною в наших тестах, особливо в обробці азійських мов.
Важливо зауважити, що дані для навчання цієї моделі в основному походять з материкового Китаю, тому деяка інформація може бути пропущеною.
Джерело зображення: TechFlow
Якщо вам потрібна загальнопризначена або модель з високими розумовими здібностями:
@OpenAI 的模型依然是業界的佼佼者：
Стабільна та надійна робота
Після широкомасштабних практичних випробувань
Має потужний захисний механізм
Це ідеальна точка виходу для більшості проектів.
Джерело зображення: TechFlow
Якщо ви розробник або контент-творець:
@AnthropicAI Клод - моє основне інструмент, яким я користуюся щодня:
Навички кодування досить відмінні
Відповідь містить чіткий та детальний зміст
Дуже підходить для роботи з творчістю
Джерело зображення: TechFlow
Llama 3.3 від Meta недавно отримав значну увагу:
Стабільна та надійна продуктивність
Модель з відкритим вихідним кодом, гнучка та безкоштовна
Можна випробувати через @OpenRouterAI або @GroqInc
Наприклад, проекти, як @virtuals_io, розробляють свої продукти на основі шифрування x AI.
Джерело зображення: TechFlow
Якщо вам потрібен штучний інтелект у стилі рольової гри:
@TheBlokeAI's MythoMax 13B є одним з найкращих у галузі рольових ігор і тримає лідерські позиції відразу протягом кількох місяців у відповідних рейтингах.
Command R+ від Cohere - це недооцінена відмінна модель:
Проявився відмінно в ролевих іграх
Здатність з легкістю вирішувати складні завдання
Підтримує контекстне вікно довжиною до 128 000, має більш велику «пам'ять».
Джерело зображення: TechFlow
Модель Gemma від Google – легкий, але потужний варіант:
Зосередьтеся на конкретних завданнях і досягніть успіху
Бюджетно-дружній
Підходить для чутливих до витрат проектів
Особистий досвід: я часто використовую маленьку модель Gemma як 'безпристрасного суддю' у процесі штучного інтелекту, і вона демонструє відмінні результати у завданнях верифікації!
Джерело зображення: TechFlow
Джемма
@MistralAI 的模型值得一提：
Відкритий, але з високою якістю
Продуктивність моделі Mixtral дуже потужна
Він особливо добре справляється зі складними завданнями на міркування
Він був добре прийнятий спільнотою, і це, безумовно, варто перевірити.
Ваш передовий AI в руках.
Професійна порада: спробуйте змішати!
Кожна модель має свої переваги
«Команди» зі штучним інтелектом можна створювати для складних завдань
Нехай кожна модель зосередиться на тому, що вона робить найкраще
Наче збирати команду мрії, кожен член має свою унікальну роль та внесок.
Як швидко почати:
Використовуйте @OpenRouterAI або @redpill_gpt для тестування моделі, ці платформи підтримують оплату криптовалютами, дуже зручно
Відмінний інструмент для порівняння продуктивності різних моделей
Якщо ви хочете заощадити кошти та запустити свою модель локально, ви можете спробувати поекспериментувати з власним графічним процесором за допомогою @ollama.
Джерело зображення: TechFlow
Якщо вам потрібна швидкість, технологія LPU @GroqInc пропонує надзвичайно високу швидкість виведення:
Хоча вибір моделей обмежений
Однак продуктивність добре підходить для розгортання у виробничому середовищі
Джерело зображення: TechFlow
【Відмова від відповідальності】Ринок ризикований, і інвестиції повинні бути обережними. Ця стаття не є інвестиційною порадою, і користувачі повинні розглянути, чи є будь-які думки, думки або висновки в цьому документі відповідними їхнім конкретним обставинам. Інвестуйте відповідно на свій страх і ризик.
Ця стаття була дозволена для перепосту з: "TechFlow" від "ShenChao"
Оригінальний автор: superoo7
『Хочете створити власного агента штучного інтелекту?』 12 моделей LLM для колекціонування, ви також можете налаштувати хороші інструменти!» Ця стаття була вперше опублікована в «Крипто Сіті»
Контент має виключно довідковий характер і не є запрошенням до участі або пропозицією. Інвестиційні, податкові чи юридичні консультації не надаються. Перегляньте Відмову від відповідальності , щоб дізнатися більше про ризики.
Хочете створити свого власного AI агента? 12 моделей LLM, які варто зберегти, ви також можете навчити хороший інструмент!
Майже щодня я отримую подібні запитання. Після допомоги у створенні понад 20 інтелектуальних агентів штучного інтелекту та значного вкладення коштів у тестову модель, я зробив деякі справді ефективні висновки.
Нижче наведено повний посібник з вибору відповідного LLM.
Джерело зображення: TechFlow
Поточна велика мовна модель (LLM) швидко змінюється. Практично щотижня виходять нові моделі, і кожна з них стверджує, що вона є "найкращою".
Але реальність така: немає жодної моделі, яка б відповідала всім потребам.
Кожна модель має свої специфічні сфери застосування.
Я вже протестував десятки моделей, сподіваюся, моє досвід допоможе вам уникнути непотрібного витрати часу та грошей.
Джерело зображення: TechFlow
Важливо зауважити, що цей матеріал не є результатом лабораторних вимірювань або маркетингової пропаганди.
Я поділюся практичним досвідом побудови штучного інтелекту та продуктів генеративного штучного інтелекту (GenAI), які я створював своїми власними руками протягом останніх двох років.
По-перше, нам потрібно зрозуміти, що таке LLM:
Великі мовні моделі (LLM) схожі на навчання комп'ютерів «говорити». На основі того, що ви вводите, він прогнозує найімовірніші слова, які з'являться наступними.
Початковою точкою цієї техніки є класична стаття: Увага - все, що вам потрібно
Основи - Закритий джерела коду та відкритий джерела коду LLM:
Закритий вихідний код: наприклад, GPT-4 і Claude, зазвичай оплачуються за використання, і вони працюють на серверах провайдера.
Відкритий вихідний код: наприклад, Llama та Mixtral від Meta, потребує самостійного розгортання та виконання користувачем.
Напочатку можна заплутатися в цих термінах, але розуміння різниці між ними дуже важливе.
Джерело зображення: TechFlow
Розмір моделі не завжди означає кращу продуктивність:
Наприклад, 7B означає, що модель має 70 мільярдів параметрів.
Проте більша модель не завжди виявляється кращою. Ключ у виборі моделі, що відповідає вашим конкретним потребам.
Джерело зображення: TechFlow
Якщо вам потрібно створити бота X/Twitter або соціальний штучний інтелект:
@xai's Grok - дуже хороший вибір:
Надає щедру безкоштовну квоту
Ви маєте велике розуміння соціального контексту
Навіть якщо це закрите джерело, воно дуже варте спробувати
Настійно рекомендую використовувати цю модель для початківців розробників! (Маленька розмова:
Модель за замовчуванням Eliza від @ai16zdao використовує XAI Grok）
Якщо вам потрібно працювати з багатомовним контентом:
Модель QwQ від @Alibaba_Qwen виявилася дуже ефективною в наших тестах, особливо в обробці азійських мов.
Важливо зауважити, що дані для навчання цієї моделі в основному походять з материкового Китаю, тому деяка інформація може бути пропущеною.
Джерело зображення: TechFlow
Якщо вам потрібна загальнопризначена або модель з високими розумовими здібностями:
@OpenAI 的模型依然是業界的佼佼者：
Стабільна та надійна робота
Після широкомасштабних практичних випробувань
Має потужний захисний механізм
Це ідеальна точка виходу для більшості проектів.
Джерело зображення: TechFlow
Якщо ви розробник або контент-творець:
@AnthropicAI Клод - моє основне інструмент, яким я користуюся щодня:
Навички кодування досить відмінні
Відповідь містить чіткий та детальний зміст
Дуже підходить для роботи з творчістю
Джерело зображення: TechFlow
Llama 3.3 від Meta недавно отримав значну увагу:
Стабільна та надійна продуктивність
Модель з відкритим вихідним кодом, гнучка та безкоштовна
Можна випробувати через @OpenRouterAI або @GroqInc
Наприклад, проекти, як @virtuals_io, розробляють свої продукти на основі шифрування x AI.
Джерело зображення: TechFlow
Якщо вам потрібен штучний інтелект у стилі рольової гри:
@TheBlokeAI's MythoMax 13B є одним з найкращих у галузі рольових ігор і тримає лідерські позиції відразу протягом кількох місяців у відповідних рейтингах.
Command R+ від Cohere - це недооцінена відмінна модель:
Проявився відмінно в ролевих іграх
Здатність з легкістю вирішувати складні завдання
Підтримує контекстне вікно довжиною до 128 000, має більш велику «пам'ять».
Джерело зображення: TechFlow
Модель Gemma від Google – легкий, але потужний варіант:
Зосередьтеся на конкретних завданнях і досягніть успіху
Бюджетно-дружній
Підходить для чутливих до витрат проектів
Особистий досвід: я часто використовую маленьку модель Gemma як 'безпристрасного суддю' у процесі штучного інтелекту, і вона демонструє відмінні результати у завданнях верифікації!
Джерело зображення: TechFlow
Джемма
@MistralAI 的模型值得一提：
Відкритий, але з високою якістю
Продуктивність моделі Mixtral дуже потужна
Він особливо добре справляється зі складними завданнями на міркування
Він був добре прийнятий спільнотою, і це, безумовно, варто перевірити.
Ваш передовий AI в руках.
Професійна порада: спробуйте змішати!
Кожна модель має свої переваги
«Команди» зі штучним інтелектом можна створювати для складних завдань
Нехай кожна модель зосередиться на тому, що вона робить найкраще
Наче збирати команду мрії, кожен член має свою унікальну роль та внесок.
Як швидко почати:
Використовуйте @OpenRouterAI або @redpill_gpt для тестування моделі, ці платформи підтримують оплату криптовалютами, дуже зручно
Відмінний інструмент для порівняння продуктивності різних моделей
Якщо ви хочете заощадити кошти та запустити свою модель локально, ви можете спробувати поекспериментувати з власним графічним процесором за допомогою @ollama.
Джерело зображення: TechFlow
Якщо вам потрібна швидкість, технологія LPU @GroqInc пропонує надзвичайно високу швидкість виведення:
Хоча вибір моделей обмежений
Однак продуктивність добре підходить для розгортання у виробничому середовищі
Джерело зображення: TechFlow
【Відмова від відповідальності】Ринок ризикований, і інвестиції повинні бути обережними. Ця стаття не є інвестиційною порадою, і користувачі повинні розглянути, чи є будь-які думки, думки або висновки в цьому документі відповідними їхнім конкретним обставинам. Інвестуйте відповідно на свій страх і ризик.
Ця стаття була дозволена для перепосту з: "TechFlow" від "ShenChao"
Оригінальний автор: superoo7
『Хочете створити власного агента штучного інтелекту?』 12 моделей LLM для колекціонування, ви також можете налаштувати хороші інструменти!» Ця стаття була вперше опублікована в «Крипто Сіті»