OpenAI вчора представила нову безкоштовну версію моделі GPT, яка може працювати на персональних комп’ютерах, а тепер Microsoft полегшує це для користувачів Windows. Легка модель gpt-oss-20b стала доступною в Windows AI Foundry і незабаром з’явиться на macOS.

Вимоги до системи

Для використання моделі вам знадобиться комп’ютер або ноутбук з щонайменше 16 ГБ віртуальної пам’яті. Це означає, що потрібно мати одну з провідних відеокарт від Nvidia або різноманітні моделі Radeon з достатньою кількістю VRAM. Модель gpt-oss-20b оптимізована для виконання коду та використання інструментів, і, за словами Microsoft, вона “ідеально підходить для створення автономних асистентів або інтеграції ШІ у реальні робочі процеси, навіть за умов обмеженої пропускної спроможності”.

Оптимізація та підтримка

Microsoft заздалегідь оптимізувала gpt-oss-20b для локального інфервенційного виконання, і натякає на те, що підтримка більшої кількості пристроїв з’явиться найближчим часом. Це може означати, що в майбутньому ми побачимо вдосконалену версію для ПК Copilot Plus, так само, як Microsoft нещодавно почала впроваджувати різноманітні локальні моделі ШІ до Windows.

Конкуренція на ринку

Швидке впровадження останньої моделі OpenAI в Windows AI Foundry від Microsoft відбувається на фоні того, як Amazon також швидко адаптувала нові моделі GPT-OSS для своїх хмарних сервісів. Це перший випадок, коли можна запустити модель OpenAI локально на Windows, а також перший раз, коли найбільший конкурент Microsoft у хмарних технологіях отримав доступ до останніх моделей OpenAI, що додає новий вимір до складного партнерства між OpenAI та Microsoft.