100 USDT
Обзор
Британское научно-исследовательское подразделение ARIA представило футуристический концепт “количественных гарантий безопасности” для искусственного интеллекта.
ARIA сравнивает эти гарантии с высокими стандартами безопасности в ядерной энергетике и пассажирской авиации. В случае машинного обучения стандарты включают вероятностную гарантию, что определенное действие не причинит вреда.
Gatekeeper AI
В основе плана ARIA лежит “Gatekeeper” AI. Этот цифровой страж обеспечит работу других агентов AI только в пределах установленных ограничений для конкретного приложения.
Финансирование и цели проекта
ARIA направит на реализацию проекта 59 миллионов фунтов стерлингов. К концу программы агентство планирует продемонстрировать масштабируемое экспериментальное подтверждение в одной области.
Среди предложений — балансировка электросети и управление цепочками поставок.
Основы концепции
Инициатором программы является Дэвид “davidad” Далримпл, который стал одним из создателей популярной криптовалюты Filecoin.
Далримпл также провел обширное исследование технической безопасности ИИ, что побудило его заинтересоваться подходом Gatekeeper. В качестве директора программы ARIA он теперь может воплотить свою теорию в жизнь.
Гарантии Gatekeeper
Gatekeeper ARIA будут использовать научные модели мира и математические доказательства. Далримпл отметил, что концепция объединяет коммерческие и академические принципы.
Подходы, изучаемые крупными компаниями, занимающимися ИИ, основаны на конечных выборках и не дают никаких гарантий относительно поведения систем ИИ после развертывания.
Дэвид Далримпл, директор программы ARIA
Сотрудничество и опирение на опыт
Этот синтез требует глубокого междисциплинарного сотрудничества, и в этом состоит задача ARIA.
Агентство, созданное в прошлом году, финансирует исследования “с высоким риском и высокой прибыльностью”. Эта стратегия вызывает сравнения с DARPA, “подразделением безумной науки” Пентагона.
Перспективы
План Далримпла основан на подходе, одобренном Иошуа Бенджио, известным ученым-компьютерщиком и лауреатом премии Тьюринга.
Бенджио также призвал к “количественным гарантиям безопасности”, но был разочарован прогрессом, достигнутым на сегодняшний день.
- У методов построения мостов, лекарств или атомных электростанций, в отличие от подходов к обучению frontier AI systems, нет количественных гарантий безопасности любого рода.
У Далримпла есть шанс это изменить. Это также станет большим достижением для ARIA, которая подверглась критике со стороны политиков.
Правовая информация
Права защищены BITboosters.ru
Пульс Новости 6.0 из 10
- **Значимость новости:** 5/10. Новость касается исследований в области искусственного интеллекта (ИИ), а не криптовалют, поэтому ее значимость для криптовалютного рынка ограничена.
- **Инновационная ценность новости:** 7/10. Новость описывает инновационный подход к обеспечению безопасности ИИ с использованием “контролирующих” агентов ИИ, основанных на научных моделях мира и математических доказательствах.
- **Потенциальное влияние новости на рынок:** 3/10. Новость не оказывает прямого влияния на криптовалютный рынок, но может иметь косвенное влияние, если исследования ИИ приведут к разработке новых технологий, используемых в криптографии и блокчейнах.
- **Релевантность новости:** 2/10. Новость не связана с криптовалютами, поэтому ее релевантность для криптовалютного рынка низкая.
- **Актуальность новости:** 8/10. Новость недавно опубликована и содержит информацию о текущих исследованиях в области безопасности ИИ.
- **Достоверность новости:** 7/10. Новость опубликована на авторитетном технологическом сайте и содержит цитаты экспертов в области ИИ.
- **Общий тон новости:** 8/10. Новость имеет оптимистичный тон и подчеркивает потенциал исследований для улучшения безопасности ИИ, что является положительным показателем для криптовалютного рынка, который зависит от надежных технологий ИИ.
