Следующий вызов ИИ: доверие

В наши дни ИИ (искусственный интеллект) проникает почти во все уголки нашей жизни: от решений, которые мы принимаем дома, до систем, обеспечивающих работу зданий и производственных цехов. Но по мере того, как ИИ становится более способным, нам необходимо задаться более фундаментальным вопросом: создаем ли мы технологию, которая помогает нам лучше думать, или технологию, которая просто дает нам ответы?

A Недавний опрос показал, что 76% ежедневных пользователей ИИ, чьи ИИ бросил им вызов, заявили, что их мышление стало острее. Это открытие указывает на важную возможность. ИИ может быть больше, чем просто механизмом ответов. Это может быть инструмент, который подвергает сомнению предположения, поощряет любопытство и помогает людям рассмотреть перспективы, которые в противном случае они могли бы упустить из виду.

Слишком часто разговоры об ИИ сосредотачиваются на скорости, производительности и автоматизации. Сколько времени мы можем сэкономить? Сколько задач мы можем устранить? Как быстро мы сможем получить ответ? Это важные вопросы, но они упускают из виду более широкую картину: что происходит с нашими суждениями, когда мы перестаем самостоятельно решать проблемы?

Если ИИ всегда с нами согласен, мы рискуем укрепить наши существующие предубеждения. Если он всегда дает самый быстрый ответ, мы можем упустить возможность учиться. Самыми ценными системами искусственного интеллекта будут те, которые знают, когда отвечать, когда задавать вопрос, а когда заставить нас думать по-другому.

Однако помочь людям мыслить лучше — это только половина задачи. Мы также должны обеспечить, чтобы ИИ мог достоверно рассуждать о мире вокруг нас.

Исследования Archetype AI и Encord показывают, почему. В ходе испытаний, включающих медицинский мониторинг, строительство систем HVAC (отопления, вентиляции и кондиционирования воздуха) и измерений углекислого газа в атмосфере, модели ИИ правильно определили закономерности, но дали ошибочные объяснения того, что их вызвало.

Подумайте о последствиях. Распознать аномалию – это не то же самое, что понять ее причину. Выявление проблемы с воздушным потоком не обязательно означает диагностику основной неисправности. И признание климатической модели не гарантирует точного объяснения стоящих за ней физических процессов.

В физическом мире убедительное объяснение может быть опасным. Когда система ИИ звучит уверенно, люди могут предположить, что ее рассуждения здравы. Но уверенность и правильность не взаимозаменяемы. Поскольку эти технологии проникают в здравоохранение, инфраструктуру, производство и мониторинг окружающей среды, мы не можем позволить себе путать правдоподобное повествование с пониманием, основанным на фактических данных.

Именно на этом должна сосредоточиться следующая фаза развития ИИ: обоснование результатов на измеримых доказательствах, проверка объяснений на реальных условиях и сделать неопределенность видимой. Точность должна означать нечто большее, чем просто прийти к правильному выводу. Оно должно включать в себя понимание того, что подтверждают доказательства, и признание того, чего они не подтверждают.

В конечном счете, заслуживающий доверия ИИ требует двух форм ответственности. Технология должна помочь людям сохранить и укрепить свою способность мыслить, одновременно давая им веские основания доверять ее выводам.

Будущее не должно заключаться в том, чтобы сделать людей менее вовлеченными в процесс или сделать машины более интеллектуальными. Речь должна идти о создании систем, которые улучшают наши решения, не скрывая при этом лежащие в их основе доказательства.

Хотите написать об этой статье в Твиттере? Используйте хэштеги #IoT #sustainability #AI #5G #cloud #edge #futureofwork #digitaltransformation