[ad_1]
Высокопроизводительные системы искусственного интеллекта (ИИ) угрожают социальной стабильности, а ИИ-компании должны нести ответственность за вред, причинённый их продуктами – об этом заявила группа отраслевых экспертов, включая основоположников соответствующих технологий, лауреатов премии Тьюринга Йошуа Бенжио (Youshua Bengio) и Джеффри Хинтона (Geoffrey Hinton), пишет во вторник The Guardian.
«Пора уже задуматься по поводу передовых ИИ-систем, — заявил профессор компьютерных наук Стюарт Расселл (Stuart Russell) из Калифорнийского университета в Беркли. — Это не игрушки. Повышать возможности таких систем прежде, чем понять, как обезопасить их, в высшей степени безрассудно».
По словам эксперта, за магазинами по продаже бутербродов надзор жёстче, чем за ИИ-компаниями.
Специалисты призвали правительства принять ряд мер, включая:
- выделение третьей части всех правительственных средств, направленных на ИИ-исследования и разработки, а также трети всех денег компаний, зарезервированных на НИОКР, для обеспечения безопасного и этичного использования ИИ-систем;
- предоставление доступа независимым аудиторам в ИИ-лаборатории;
- введение системы выдачи лицензий на создание передовых [ИИ]-моделей;
- принятие ИИ-фирмами специальных мер безопасности на случай обнаружения опасных возможностей в их моделях;
- возложение ответственности на технологические компании за ущерб от их ИИ-систем, который можно было предвидеть и предотвратить.
Напомним, в мае группа ведущих инженеров, глав компаний и учёных опубликовали предупреждение об экзистенциальной угрозе технологий искусственного интеллекта (ИИ) для человечества.
См. также: Возняк и Маск призвали остановить обучение сверхпроизводительных ИИ-систем >>>
[ad_2]
