Искусственный интеллект и нейросети стремительно вливаются в повседневную жизнь и профессиональную деятельность, в том числе в работу государственных и муниципальных служащих. Эти технологии открывают поистине уникальные возможности для автоматизации рутинных процессов. Однако, как у любого инновационного инструмента, у ИИ есть свои вызовы и спорные моменты, которые требуют внимательного изучения и регулирования. Одними из самых острых остаются такие вопросы, как авторское право и использование персональных данных.
Михаил Владимирович Хохолков, медиаюрист, автор канала «Медиаправо», эксперт Аналитического центра при Правительстве РФ
Что «под капотом»
Работу любой нейросети можно сравнить с подбрасыванием монетки. Попробуйте провести один тест, предложив «сетке» решение простой задачи. Например, у вас есть металлическая кружка, и вы заметили, что у нее отпилено дно, но верх запаян. Как из нее пить? Любой человек скажет — переверни кружку. А нейросети выдадут как минимум три варианта решения задачи, и ни один из них не попадет в точку. Просто нужно понимать, что такое нейросеть и как она работает «под капотом».
Безусловно, сравнение с подбрасыванием монетки — довольно грубое, поскольку при генерации ответа задействована большая математическая модель. Условно говоря, для того чтобы выдать ответ, «сетка» сравнивает каждое слово в запросе с большим массивом данных из интернета, анализирует, насколько оно подходит по смыслу к параметрам, заданным промптом — инструкцией, которую пользователь передает ИИ для выполнения определенной задачи. И каждый раз результат генерации — это вероятность, на которую не всегда можно повлиять.
Нейросети мы можем доверить выполнение простых задач. А вот сделать более сложную, требующую настоящего творчества работу — с большой натяжкой. В конечном итоге, кроме человека, который нажал на кнопку «опубликовать», никто за результат работы нейросети не отвечает.
Более того, сейчас многие нейронки не дают точных ответов по целому ряду направлений — например, они уже некоторое время отвечают на юридические или медицинские вопросы с оговоркой: «Я не юрист, я не врач, пожалуйста, записывайтесь на консультации специалистов». Поэтому получить исчерпывающую, а главное, достоверную, информацию от всезнающей нейросети не всегда возможно.
Доверять или нет
Сегодня нейросеть можно рассматривать как стажера-помощника, при работе с которым, как и с малоопытным человеком, могут возникнуть определенные риски.
Во-первых, любой документ, который вы загрузили в нейронку, становится доступным практически для всех. Представьте, что у вас есть копировальный аппарат, но в соседнем здании. И вы берете всю внутреннюю конфиденциальную документацию — договор с подрядчиком, положение о коммерческой тайне, штатное расписание и так далее — и передаете рандомному человеку для ксерокопирования. По сути, в ваше отсутствие он может сделать с вашими документами все, что угодно. Данные могут попасть в руки не только конкурентов, но и мошенников. Можете представить себе такой сценарий в реальной жизни? А нейронка именно так и работает — все, что в нее загрузили, остается там.
Второй момент — персональные данные. На старте разработчики нейросетей особо не заморачивались над качеством базы и поэтому, грубо говоря, загружали в «сетку» весь интернет. Сколько там сегодня наших персональных данных — большой вопрос. Безусловно, на данный момент юристы подключились к решению задач конфиденциальности, но это произошло, когда базы нейросетей уже накопили критическую массу персональной информации.
Полная версия статьи доступна подписчикам журнала «Бюджет»
Оформить подписку Войти
Поделиться:
