Страховщики Lloyd’s of London запустили новый продукт для компаний, покрывающий убытки от неисправных AI-инструментов. Полисы, разработанные стартапом Armilla при поддержке Y Combinator, будут покрывать судебные издержки и компенсации, если компания столкнется с исками из-за некорректной работы искусственного интеллекта.

Необходимость такой страховки становится все очевиднее на фоне участившихся дорогостоящих ошибок и “галлюцинаций” AI. Например, чатбот Virgin Money извинялся за то, что отчитал клиента за использование слова “virgin”, а бот курьерской службы DPD ругался на клиентов и называл своего владельца “худшей службой доставки в мире”. А Air Canada по решению суда пришлось соблюдать скидку, которую их чатбот просто выдумал.

Страховка Armilla сработает не при любой ошибке AI, а если система будет работать хуже заявленных характеристик. Например, если чатбот, изначально дававший точные ответы в 95% случаев, начнет давать их только в 85% случаев.

Это косвенно может свидетельствовать, что качество чатботов уже достигло определенного уровня — раз уж страховщики поняли, как определять риски при таком страховании.