Альянс між AMD та Cohere робить крок вперед, розширюючи свою глобальну лінію, що дозволить клієнтам Cohere запускати свої моделі безпосередньо на інфраструктурі... Графічні процесори AMD InstinctЦя еволюція відкриває двері до більшої кількості варіантів розгортання для компаній та адміністрацій, адаптуючи продуктивність та витрати до кожного випадку.
Окрім пропонування цієї альтернативи третім сторонам, AMD впровадить платформу На північ від Кохере до власних внутрішніх інструментів штучного інтелекту для інженерії та розробки. Завдяки цьому обидві компанії орієнтуються на проекти ШІ підприємства і суверенний де конфіденційність та ефективність мають вирішальне значення.
Підтримувані моделі та розгортання на AMD Instinct
Клієнти Cohere зможуть запустити повний асортимент моделей, включаючи На північ і сім'ї Команда А (Vision and Translate) на серверах з прискоренням AMD Instinct, що забезпечує кращу гнучкість розгортання у приватному, державному або гібридному середовищі.
Цей рух базується на попередній роботі з оптимізації Програми права Cohere Business LLM на апаратному забезпеченні AMD. Покращення включають міркування з розширені контексти, виконання складних навантажень та менший обчислювальний обсяг, що сприяє зниженню загальної вартості володіння.
Під час заходу AMD розвиває штучний інтелект у 2025 році, було продемонстровано реальні впровадження, засновані на цій співпраці, причому організації вже використовують переваги збільшеної пропускної здатності та обсягу пам'яті для пришвидшення Потоки штучного інтелекту вимогливий.
Поєднання високопродуктивна інфраструктура de AMD з акцентом на Узгодженість у сфері безпеки та конфіденційності створює міцну технічну основу для масштабування критично важливих проектів, контролю над даними та досягнення більшої операційної ефективності.
Суверенний штучний інтелект, відповідність вимогам та впровадження в підприємствах
Ще одним елементом угоди є надання можливості розгортання суверенного штучного інтелекту, щоб уряди та агентства могли відповідати національним вимогам щодо зберігання даних, безпеки та нормативних актів, використовуючи моделі відповідно до на своїх власних умовах і без втрати гнучкості.
Паралельно AMD інтегруватиме Кохере Норт у своєму внутрішньому портфоліо для пришвидшення виконання завдань інженерії та розробки, демонструючи, що співпраця виходить за рамки маркетингу та переходить до реальне використання всередині компанії.
Від Cohere, її співзасновника Нік Фросст зазначив, що перехід багатьох своїх моделей на графічні процесори AMD Instinct пропонує державним та приватним клієнтам більша свобода розгортати ШІ відповідно до власної політики та потреб.
З боку AMD, Вамсі Боппана підкреслив, що рішення Cohere можуть працювати на інфраструктурі Instinct, що дозволяє організаціям та адміністраціям масштабуватися висока продуктивність, ефективність та обсяг пам'яті.
Серед вигоди які вже відчувають клієнти, включають наступне:
- Оптимізація бізнес-LLM на графічних процесорах AMD Instinct.
- Зниження загальної вартості володіння завдяки покращенню енергії та ефективності пам'яті.
- Більше пам'яті та пропускної здатності, що полегшує міркування з довгими контекстами та складними навантаженнями.
- Гнучкість розгортання у приватних, публічних та гібридних хмарах відповідно до вимог кожного сектора.
З розширенням свого альянсу AMD та Cohere прагнуть зміцнити свої позиції в ШІ підприємства комбінування високопродуктивне обладнання з моделями, орієнтованими на безпеку та конфіденційність, для масштабування проектів з контролем даних та Більш конкурентоспроможна сукупна вартість володіння (TCO).