100 USDT
Прорыв в области безопасности ИИ
Британское научно-исследовательское подразделение разработало амбициозное видение «количественных гарантий безопасности» в сфере искусственного интеллекта (ИИ). Передовое агентство по исследованиям и изобретениям (ARIA) прокладывает путь к высоким стандартам безопасности в ИИ, проводя параллели с жесткими мерами безопасности в атомной энергетике и пассажирской авиации.
Gatekeeper AI
В основе плана ARIA лежит внедрение системы ИИ «Gatekeeper». Этот цифровой страж будет действовать как защитник, гарантируя, что другие агенты ИИ работают в предопределенных границах для конкретных приложений. Разрабатывая этот ИИ-привратник, ARIA стремится внедрить вероятностную гарантию того, что действия ИИ не нанесут вреда.
Финансирование и цели
ARIA выделила 59 миллионов фунтов стерлингов на проект с целью демонстрации масштабируемого доказательства концепции в определенной области. Потенциальные приложения варьируются от балансировки электрической сети до управления цепочками поставок с конечной целью обеспечения безопасности ответственных внедрений ИИ, таких как улучшение критической инфраструктуры или оптимизация клинических испытаний.
Роль Дэвида Далримпла
Инициатором этой новаторской инициативы является Дэвид ‘davidad’ Далримпл, соавтор популярной криптовалюты Filecoin. Глубокие исследования Далримпла в области технической безопасности ИИ побудили его изучить подход «Gatekeeper». Теперь, будучи руководителем программы ARIA, у него есть возможность воплотить свои теории в реальные решения.
Академический и Коммерческий Подход
Привратники, разработанные ARIA, будут полагаться на научные модели мира и математические доказательства для обеспечения безопасности. Далримпл подчеркивает, что этот подход сочетает в себе как коммерческие, так и академические концепции. В отличие от существующих методов, используемых крупными компаниями в области ИИ, которые полагаются на конечные выборки без предоставления гарантий, подход ARIA к «Gatekeeper» объединяет передовые возможности с математическим обоснованием. Достижение этого слияния требует глубокого междисциплинарного сотрудничества, и именно здесь роль ARIA становится решающей.
Сравнение с Программой DARPA
Основанный в прошлом году ARIA финансирует передовые исследования с высоким уровнем риска и сопоставим с DARPA, известной исследовательской группой Пентагона, известной своими новаторскими проектами. Далримпл проводит параллели между новым проектом ARIA и программой HACMS DARPA, которая успешно создала невзламываемый квадрокоптер с помощью формальной проверки. Применяя схожие принципы, план Далримпла направлен на выполнение обещания «количественных гарантий безопасности».
Значение Инициативы
Известный ученый-компьютерщик Йошуа Бенджо выразил разочарование в связи с отсутствием прогресса в этой области, что делает инициативу Далримпла потенциальным фактором, который изменит правила игры. Хотя бюджет ARIA подвергался критике со стороны политиков, некоторые законодатели ставили под сомнение ее размер по сравнению с другими правительственными научно-исследовательскими органами, агентство может продемонстрировать потенциальную экономию средств. Например, одна из недавно запущенных программ направлена на обучение систем ИИ всего за 0,1% от текущих затрат.
Заключение
Благодаря внедрению системы «Gatekeeper» и акценту на количественных гарантиях безопасности ARIA и ее дальновидный лидер Дэвид Далримпл имеют потенциал для открытия новых горизонтов в области ИИ, обеспечивая безопасное и ответственное развертывание этой преобразующей технологии. Copyright © BITboosters.ru. 2023
Пульс Новости 6.7 из 10
- Значимость новости: 4 – Новость касается инновационного подхода к обеспечению безопасности ИИ, что имеет потенциальное значение для криптовалютного рынка, где безопасность имеет первостепенное значение.
- Инновационная ценность новости: 7 – Новость подчеркивает новый и нетрадиционный подход к обеспечению безопасности ИИ, используя концепцию “gatekeeper AI”.
- Потенциальное влияние новости на рынок: 6 – Новость предполагает, что этот подход может повысить доверие к ИИ и расширить его применение в криптовалютных системах.
- Релевантность новости: 7 – Новость непосредственно связана с использованием ИИ в криптовалютной сфере, поскольку она касается обеспечения безопасности ИИ-систем в критически важных областях.
- Актуальность новости: 8 – Новость освещает недавние разработки в области безопасности ИИ, что делает ее актуальной и своевременной.
- Достоверность новости: 9 – Новость основана на исследовании и разработках ведущего учреждения, такого как ARIA, и содержит цитаты экспертов в этой области. А также, подтверждена другими источниками, что повышает ее достоверность.
- Общий тон новости: 8 – Общий тон новости позитивный и оптимистичный, поскольку она представляет новый подход к безопасности ИИ, который может привести к более широкому внедрению ИИ в различных областях.
- Источник новости: 7 – Новость опубликована на уважаемом и авторитетном веб-сайте TNW, что придает ей дополнительную достоверность.
