Большинство систем ИИ дают вам ответ и требуют доверия. В регулируемом рабочем процессе это точно наоборот. Люди, которым будут задавать трудные вопросы — аудиторы, регуляторы, совет директоров, страховщик — не могут принять «модель так сказала» в качестве доказательства. Им нужно видеть органы управления.
Что на самом деле содержит стеклянная коробка
Рабочий процесс доставки производства, которому можно доверять, предоставляется с прилагаемыми доказательствами:
- Доказательства — каждое утверждение связано с источником, а не воображением модели.
- Оценка — набор, который оценивает каждый релиз по определённому порогу и ограничивает его.
- Контроль безопасности — проверки политики и безопасности, которые выполняются на каждом выходе, с фиксированными отказами.
- Человеческий обзор — человек, который находится в цикле до того, как высокопоставленный результат доходит до пользователя.
Почему это важно до того, как вы родите
Стоимость непрозрачности оплачивается позже, под пристальным вниманием, когда вы меньше всего можете себе это позволить. Внедрить контроль с самого начала дешевле, чем восстанавливать бумажный след после факта — и это единственный честный способ ответить на вопрос, который в итоге задаёт каждый серьёзный заинтересованный сторона: откуда вы знаете?