Стремительное развитие генеративных нейросетей (таких как ChatGPT, Midjourney, Claude и других) вызвало настоящую революцию в сфере работы с текстом и информацией. Для научного сообщества это стало серьезным вызовом, так как инструменты, способные за секунды генерировать связные тексты, поставили под вопрос традиционные представления об авторстве и оригинальности научных работ.
Первым и наиболее фундаментальным вопросом является вопрос авторства. Может ли нейросеть считаться соавтором статьи? Ведущие мировые организации, такие как COPE (Комитет по публикационной этике), однозначно отвечают на этот вопрос отрицательно. Искусственный интеллект не является юридическим лицом, не может нести ответственность за содержание текста, не может подписывать договоры с издательствами и не обладает авторским правом. Автором научной статьи может быть только человек, который несет полную ответственность за достоверность приведенных данных.
В связи с этим возникает второй важный аспект — прозрачность. Если исследователь использовал ИИ для структурирования текста, перевода, редактирования или генерации идей, он обязан раскрыть эту информацию. Сокрытие факта использования нейросети вводит рецензентов и читателей в заблуждение. Согласно современным рекомендациям, информация об использовании ИИ должна размещаться в разделе «Материалы и методы» или в специальных сносках. Издатели оставляют за собой право отклонить рукопись, если выяснится, что автор скрыл факт применения генеративных инструментов.
Третий аспект связан с рисками фальсификации. Генеративные модели склонны к «галлюцинациям» — генерации правдоподобной, но ложной информации. Они могут выдумывать несуществующие источники, цитаты и даже научные факты. В научной статье, где каждое утверждение должно быть верифицировано, это является недопустимым. Исследователь, использующий ИИ, обязан перепроверять каждый факт и каждую ссылку. Если нейросеть предложила красивую формулировку, но исказила суть исследования, ответственность за это понесет автор, а не разработчик алгоритма.
Кроме того, существует проблема утечки конфиденциальных данных. Загружая неопубликованные результаты исследований или персональные данные в публичные нейросети, ученые рискуют нарушить политику конфиденциальности и авторские права третьих лиц. В связи с этим многие корпорации и университеты уже запрещают сотрудникам использовать открытые ИИ-сервисы для работы с внутренней документацией. Данные, попадающие в открытые модели, могут быть использованы для их дальнейшего обучения, что создает риски для интеллектуальной собственности.
На основе анализа текущих этических норм можно сформулировать базовые правила для исследователей. Во-первых, ИИ не может быть указан в качестве автора или соавтора. Во-вторых, любое использование ИИ должно быть прозрачно задокументировано в тексте работы. В-третьих, ответственность за любые ошибки, допущенные ИИ, полностью лежит на человеке, подающем рукопись. И наконец, конфиденциальные данные запрещено передавать в открытые модели.
Таким образом, генеративный ИИ является лишь инструментом в руках исследователя. Этические нормы не должны запрещать технологии, но они должны регулировать их применение. Научное сообщество проходит этап адаптации к новым реалиям, и формирование четких регламентов использования ИИ станет залогом сохранения доверия к науке в будущем. Исследователям необходимо выработать внутреннюю культуру работы с ИИ, чтобы использовать его преимущества, не нарушая базовых принципов научной честности.
Список литературы
- COPE Council. Authorship and AI tools: COPE position statement / Committee on Publication Ethics. – 2023. – 13 February.
- UNESCO. Recommendation on the Ethics of Artificial Intelligence / United Nations Educational, Scientific and Cultural Organization. – Paris: UNESCO, 2021.
- UNESCO. Recommendation on the Ethics of Artificial Intelligence: Key Facts / UNESCO in the UK. – 2023.
- American Mathematical Society. Use of Artificial Intelligence / AMS Committee on Publications. – 2023.
- COPE Council. Where next in peer review? Part 2: COPE commentary / Committee on Publication Ethics. – 2023. – 15 November.
