Автор и ведущий проекта «Высокие технологии для бизнеса» Андрей Соловьёв расскажет об искусственном интеллекте и его методах работы с пользователем.
Фото: Nahrizul Kadri / unsplash - Источник
Читайте также
Искусственный интеллект всё чаще становится инструментом для множества разных профессий, проводя исследования, предлагая креативные идеи или создавая программный код новых приложений.
При этом эксперты отмечают, что в своих ответах и предложениях нейросети слишком активно соглашаются с пользователем. Такая «машинная лесть» укрепляет уверенность человека в своей правоте, снижает готовность признавать ошибки и мешает мыслить критически. Комментирует архитектор решений искусственного интеллекта Вадим Беркович:
Среди возможных решений — требование критической самооценки в ответе при создании запроса-промта для нейросетей, либо, как минимум, предупреждение о том, что ИИ может быть склонен к согласию. Люди должны понимать, что доброжелательный ответ не всегда равен полезному.
При этом эксперты отмечают, что в своих ответах и предложениях нейросети слишком активно соглашаются с пользователем. Такая «машинная лесть» укрепляет уверенность человека в своей правоте, снижает готовность признавать ошибки и мешает мыслить критически. Комментирует архитектор решений искусственного интеллекта Вадим Беркович:
Архитектор решений искусственного интеллекта Вадим БерковичК сожалению, эта проблема пока сильно недооценивается, поскольку формирует у человека психологическую зависимость. Людям нравится, когда с ними согласны. Разработчики видят, что пользователи довольны, и не меняют поведение систем. В итоге модели начинают подстраиваться под ожидания, чтобы завоевать доверие и лесть становится встроенной чертой их обучения. В коротких сессиях — вопрос-ответ, это не всегда очевидно, но в сложных проектах, состоящих из нескольких этапов, такие оптимистичные выводы могут завести вас вообще не туда. Нужно чётко понимать такую опасность, поэтому я на каждом этапе стараюсь максимально критично оценивать результат сам и привлекать коллег для оценки и второго мнения.
Автор: Андрей Соловьёв
Координатор движения «Центральный район за комфортную среду обитания» 
Налоговый консультант инвесторов и предпринимателей 
Управляющий Альфа-Банком в Санкт-Петербурге и Ленинградской области 
Председатель Ассоциации развития ломбардов