Следующая задача ИИ: доверие

В наши дни ИИ (искусственный интеллект) проникает почти в каждый уголок нашей жизни, от решений, которые мы принимаем дома, до систем, которые поддерживают работу зданий и цехов. Но по мере того, как ИИ становится все более способным, нам нужно задать более фундаментальный вопрос: мы создаем технологию, которая помогает нам лучше думать, или технологию, которая просто дает нам ответы? Недавний опрос

A показал, что 76% ежедневных пользователей ИИ, у которых был бросил им вызов, сказав, что их мышление стало более острым. Находка указывает на важную возможность. ИИ может быть чем-то большим, чем просто механизмом ответов. Это может быть инструмент, который ставит под сомнение предположения, поощряет любопытство и помогает людям рассмотреть перспективы, которые они могли бы в противном случае упустить .

Слишком часто разговор об ИИ фокусируется на скорости, производительности и автоматизации. Сколько времени мы можем сэкономить? Сколько задач мы можем устранить? Как быстро мы получим ответ? Это важные вопросы, но они не учитывают более широкую картину: что происходит с нашим суждением, когда мы перестаем работать над проблемами сами?

IЕсли ИИ всегда с нами согласен, мы рискуем усилить имеющиеся у нас предубеждения. Если он всегда дает самый быстрый ответ, мы можем упустить возможность учиться. Наиболее ценными системами ИИ будут те, которые знают, когда отвечать, когда задавать вопрос и когда бросать нам вызов думайте по-другому.

Yet помочь людям думать лучше - это только половина проблемы. Мы также должны убедиться, что ИИ может надежно рассуждать об окружающем нас мире.

Исследование от Архетип AI и Encord иллюстрирует почему. В тестах, связанных с медицинским мониторингом, системами ОВКВ (отопление, вентиляция и кондиционирование воздуха) и измерениями углекислого газа в атмосфере, модели ИИ правильно идентифицировали закономерности, но производили ошибочные объяснения того, что их вызвало .

Подумайте о последствиях. Признание аномалии - это не то же самое, что понимание ее причины. Выявление проблемы с воздушным потоком не обязательно означает диагностику основной неисправности. И распознавание климатической картины не гарантирует точного объяснения физических процессов, стоящих за ней .

В физическом мире убедительное объяснение может быть опасным. Когда система ИИ звучит уверенно, люди могут предположить, что ее рассуждения обоснованы. Но уверенность и правильность не взаимозаменяемы. Поскольку эти технологии входят в здравоохранение, инфраструктуру, производство и мониторинга окружающей среды, мы не можем позволить себе путать правдоподобное повествование с основанным на фактических данных пониманием.

Именно на этом должен сосредоточиться следующий этап развития ИИ: обоснование результатов в измеримых доказательствах, тестирование объяснений в реальных условиях и выявление неопределенности. Точность должна означать больше, чем прийти к правильному выводу. Это должно включать понимание того, что подтверждают доказательства, и признание того, что это не так .

Кроме того, надежный ИИ требует двух форм ответственности. Технология должна помогать людям сохранять и укреплять их способность мыслить, давая им веские основания доверять ее выводам .

Будущее не должно заключаться в том, чтобы сделать людей менее вовлеченными, а машины - более умными. Речь должна идти о создании систем, которые улучшают наши решения, не скрывая доказательств, лежащих в их основе .

Хотите написать твит об этой статье? Используйте хэштеги #IoT #sustainability #AI #5G #cloud #edge #futureofwork #digitaltransformation