Kimi опублікував технічний звіт, який отримав лайк Маска, підписаний співзасновниками Янь Чжило, У Юйсінь та Чжоу Сіньюй

robot
Генерація анотацій у процесі

16 березня Kimi опублікував технічний звіт, у якому повторно спроектував ключову структуру залишкових зв’язків у великій моделі, яка не змінювалася протягом десяти років, дозволяючи кожному шару вибірково фокусуватися на виходах попередніх шарів, а не просто сумувати їх. Це підвищило ефективність тренування 48-мільярдної моделі на 1.25 рази, що було сприйнято галуззю як попередній анонс ключових модулів наступного покоління моделей.

Три співзасновники Moon of Darkness — Ян Чжілінь, У Юсінь і Чжоу Сіньюй — разом із десятками дослідників завершили цю роботу.

Після публікації статті Ілон Маск високо оцінив дослідження Kimi, а колишній науковець OpenAI Анджей Карпати зазначив, що це дослідження справді втілює ідею “Attention is All You Need”. Батько дедуктивного мислення та колишній віце-президент OpenAI Джеррі Творек вважає, що настає ера Deep Learning 2.0.

Джерело статті: Pengpai News

Ризики та застереження

Ринок має ризики, інвестиції слід здійснювати обережно. Ця стаття не є інвестиційною порадою і не враховує індивідуальні цілі, фінансовий стан або потреби користувачів. Користувачі повинні самостійно оцінити, чи відповідають будь-які думки, погляди або висновки у цій статті їхнім конкретним обставинам. За інвестиції відповідальність несе сам користувач.

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріпити