in

Как безопасно воспользоваться преимуществами генеративного ИИ

Генеративный искусственный интеллект (ИИ) привлек внимание разработчиков программного обеспечения благодаря своей способности создавать программное обеспечение высокого качества.

Но наряду с обещаниями повышения производительности благодаря новым инструментам генерации кода возрастают риски.

Как организация может воспользоваться этим повышением производительности, устраняя или снижая риски? Сначала давайте рассмотрим некоторые риски, связанные с использованием генеративного ИИ:

  • Непреднамеренные уязвимости – Код, сгенерированный LLMS, может непреднамеренно содержать уязвимости. Генеративный ИИ может использовать Большую языковую модель (LLM), которая была обучена на коде сомнительного происхождения и, как часто говорят, “мусор входит, мусор выходит”.
  • Сложность владения интеллектуальной собственностью – Разрешение вопросов о правах интеллектуальной собственности, авторских правах и праве собственности, относящихся к сгенерированному ИИ коду, все еще является непрерывным процессом. Например, при использовании сгенерированного искусственным интеллектом кода, подготовленного на основе программного обеспечения с открытым исходным кодом, несоблюдение лицензионных требований к этому программному обеспечению может представлять собой нарушение авторских прав. По мере развития генеративного кода ожидается, что тонкости, связанные с этими проблемами, станут более понятными, но для выработки более четких рекомендаций может потребоваться время и юридические прецеденты.
  • Проблемы с качеством кода – коду, генерируемому ИИ, может не требоваться требуемая надежность, масштабируемость и качество, а модели генеративного ИИ могут создавать код, который трудно понять или объяснить. Важным аспектом обслуживания является обеспечение того, чтобы код был хорошо разработан и документирован.

Хотя использование генеративного ИИ сопряжено с определенными рисками, при правильном руководстве оно может повысить производительность разработчиков. И уже многие разработчики считают, что генеративный ИИ – еще один важный инструмент.

Вот несколько рекомендаций, которые могут помочь минимизировать риски, связанные с генеративным ИИ, обеспечивая при этом преимущества в производительности:

  • Рассматривайте generative AI как своего партнера по программированию – но младшего. Вы должны сохранять достаточную долю скептицизма в отношении сгенерированного кода и быть бдительными, чтобы подтвердить качество.
  • Всегда проверяйте сгенерированный ИИ код – Генеративный ИИ выдает результаты, которые кажутся последовательными и убедительными, но не всегда являются правильными. Не принимайте сгенерированный ИИ код как должное. Весь код должен быть проверен и протестирован перед использованием.
  • Будьте осторожны при раскрытии конфиденциальной информации с помощью подсказок искусственного интеллекта – Хотя многие сервисы сообщают, что подсказки клиентов не используются для обучения моделей, у вас ограниченные возможности точно знать, как сервисы обрабатывают информацию о клиентах.
  • Освоите основы – Понимание того, как правильно использовать генеративный ИИ, имеет решающее значение для получения оптимальных результатов. Пользователям следует ознакомиться с основами быстрого проектирования.
  • Сильные люди и процессы – лучшей защитой для устранения уязвимостей кода по-прежнему является хорошо обученный персонал разработчиков и хорошо продуманная цепочка поставок программного обеспечения. Для разработчиков крайне важно пройти обучение распознаванию и устранению уязвимостей, гарантируя, что генеративный ИИ не станет непреднамеренным источником небезопасного кода.

Для многих разработчиков генеративный искусственный интеллект стал бесценным инструментом, и многие разработчики признают его преимущества. Вместо прямого запрета на его использование из-за связанных с этим рисков, более эффективно установить четкий и краткий набор рекомендаций, которых разработчики могут придерживаться. Поступая таким образом, мы можем найти баланс между использованием генеративного ИИ для повышения производительности и снижения потенциальных рисков.

Автор истории Джон Кэмпбелл @johncampbell

What do you think?

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

GIPHY App Key not set. Please check settings