Технология доказательств с нулевым разглашением (ZKP) станет основой новой эры надежного искусственного интеллекта и цифровой идентификации, считает CEO Billions Network Эвин Макмаллен.

Она предоставит частным лицам и организациям возможность безопасно и прозрачно взаимодействовать с различными платформами.

С распространение ИИ-агентов людям приходится предоставлять все больше биометрических данных, чтобы подтвердить, что они не являются ботами.

Если личная информация попадет в открытый доступ, машины могут ею воспользоваться. Например, чтобы выдать себя за реального человека. Это может нарушить работу систем, предназначенных для отсеивания «неживых» пользователей.

Возникает «гонка вооружений»: чем тщательнее проводится проверка, тем выше риск утечки данных в сеть.

Недопустимо требовать прозрачности от людей и принимать непрозрачность от машин, считает Макмаллен. И ботам, и онлайн-пользователям нужны более эффективные способы проверки личности.

Собирать биометрические данные и формировать централизованные реестры — не выход, поскольку такие базы неизбежно привлекут внимание киберпреступников.

Отсутствие механизмов для надежной проверки идентичности искусственного интеллекта создает проблемы. Пока ИИ-агенты могут выдавать себя за людей, манипулировать рынками или выполнять несанкционированные транзакции, предприятия не спешат широко внедрять автономные системы.

Макмаллен подчеркнул, что LLM после дообучения становятся более опасными — они в 22 раза чаще выдают вредные или нежелательные ответы по сравнению с исходными «базовыми» нейросетями.

Взломать, то есть обойти встроенные системы безопасности через джейлбрейк, такие донастроенные решения тоже проще.