Google випускає нові відкриті моделі штучного інтелекту з акцентом на безпеку
Компанія Google представила три нові генеративні моделі штучного інтелекту з відкритим кодом. За словами розробників, вони безпечніші, менші за розміром і прозоріші порівняно з більшістю аналогів.
Нові моделі — Gemma 2 2B, ShieldGemma та Gemma Scope — це доповнення моделей Gemma 2, які дебютували в травні, і мають спільний акцент на безпеку.
Gemma 2 2B – це легка модель для генерації та аналізу тексту, яка працює на різноманітних пристроях, включаючи ноутбуки. Її можна завантажити з різних джерел: бібліотека моделей Vertex AI від Google, платформа даних Kaggle або інструментарій Google AI Studio.
ShieldGemma – це набір класифікаторів безпеки, які виявляють токсичний контент, зокрема мову ненависті та домагання. Побудована на основі Gemma 2, ShieldGemma може фільтрувати як запити до генеративної моделі, так і її результати.
Gemma Scope дозволяє розробникам детально вивчати окремі компоненти моделі Gemma 2, що підвищує її прозорість. Як пояснює Google, спеціальні нейронні мережі допомагають розкласти складну інформацію, оброблену Gemma 2, на більш зрозумілі складові.
ShieldGemma – це набір класифікаторів безпеки, які виявляють токсичний контент, зокрема мову ненависті та домагання. Побудована на основі Gemma 2, ShieldGemma може фільтрувати як запити до генеративної моделі, так і її результати.
Gemma Scope дозволяє розробникам детально вивчати окремі компоненти моделі Gemma 2, що підвищує її прозорість. Як пояснює Google, спеціальні нейронні мережі допомагають розкласти складну інформацію, оброблену Gemma 2, на більш зрозумілі складові.
Випуск нових моделей Gemma 2 відбувся після підтримки Міністерством торгівлі США відкритих моделей штучного інтелекту. Звіт зазначає, що такі моделі розширюють доступність генеративного ШІ для малих компаній, дослідників і некомерційних організацій, підкреслюючи потребу в моніторингу для виявлення потенційних ризиків.
Джерело: TechCrunch
