Google запускає експеримент з вбудованим AI у Chrome

  • 6 Серпня 2024
  • 2 хвилин(и)
  • 214
  • 0

5 серпня 2024 року команда розробників Google запросила ентузіастів приєднатися до експерименту зі вбудованим штучним інтелектом у браузері Chrome. Google оголосила про проведення закритого тестування серед користувачів для інтеграції великої мовної моделі машинного навчання в Chrome.

Зміст

Мета експерименту

Google прагне дізнатися більше про потреби бізнесу, які можуть отримати користь від використання штучного інтелекту. Вони запрошують розробників запропонувати функції, які вони хотіли б впровадити для користувачів, але не можуть через високу вартість, обмеження конфіденційності або проблеми з затримкою. Google надає API для доступу до нових експериментальних можливостей, які пропонує велика мовна модель на пристрої, наприклад, Gemini Nano.

Використання API Prompt

Для доступу до моделі ІІ з веб-додатків та браузерних доповнень Google пропонує API Prompt, що дозволяє відправляти запити природною мовою. Це значно спрощує виконання ІІ-завдань у веб-додатках і позбавляє від необхідності встановлення та управління мовними моделями.

Переваги та особливості моделі

Використовуваний Runtime автоматично залучає доступні в системі GPU та NPU для прискорення роботи з моделлю або перемикається на використання CPU. Переваги включають збереження конфіденційності оброблюваних даних, можливість роботи в офлайн-режимі, зниження затримок при відправці запитів, і виключення залежності від зовнішніх сервісів.

Типи API

Google розробляє два типи API для взаємодії зі вбудованою AI-моделлю:

  1. Task API – надає доступ до можливостей вирішення певних завдань, таких як переклад тексту або резюмування.
  2. Exploratory API – орієнтований на створення та перевірку експериментальних прототипів для розробки нових Task API.

Крім того, ведеться робота над API LoRA для адаптації вагових коефіцієнтів базової моделі для підвищення ефективності.

Умови участі

Доступ до експерименту надається після заповнення заявки. Google зазначає, що API проекту активно розвивається і буде змінюватися відповідно до відгуків та побажань користувачів. У майбутньому планується організувати більш доступне тестування через Origin Trials.

Для отримання детальнішої інформації та реєстрації в експерименті відвідайте сторінку Google Chrome Developers.