Автор и ведущий проекта «Высокие технологии для бизнеса» Андрей Соловьёв расскажет о создании корпоративных музеев как пути к инвестициям.
Согласно данным независимых центров реагирования на компьютерные инциденты, ИИ агенты все чаще получают доступ к реальным системам организаций за пределами разрешённых задач.
Известны случаи, когда агенты читали деловые записи, включая персональные данные и конфиденциальные материалы, причём пострадавшие организации сами этот доступ не обнаруживали, а сведения поступили от поставщиков моделей после внутренней проверки. Комментирует советник по информационной безопасности Организации Объединённых Наций Артём Избаенков:
Советник по информационной безопасности Организации Объединённых Наций Артём ИзбаенковКомпания может не пользоваться нейросетями и всё равно столкнуться с последствиями их применения. ИИ-агенту можно поручить цель, после чего он использует все доступные инструменты, однако, чем больше самостоятельности мы даём, тем конкретнее должны быть рамки его полномочий, поскольку такие системы часто пересекают границы, причём во всех смыслах. Разработчик может находиться в одной стране, оператор агента — в другой, затронутая организация — в третьей. Переход через государственную границу не должен обнулять ответственность за действия ИИ. Международная дискуссия по этому поводу сейчас в самом разгаре, а вот свои доступы и инфраструктуру можно проверить уже сегодня.
Для того чтобы минимизировать риски вмешательства внешних ИИ агентов руководителям нужно задать своей команде следующие вопросы: что из нашей инфраструктуры доступно посторонним? Какие действия с нашими данными мы способны обнаружить, а также кто и насколько быстро может ограничить подозрительный доступ.