Новую разработку ИИ решили не показывать людям — она может быть опасной

OpenAI — это некоммерческая исследовательская компания, которая занимается разработками в области искусственного интеллекта (ИИ) и высоких технологий. Недавно им наконец удалось закончить свой революционный проект: GPT2, система, которая может писать новости и произведения художественной литературы на основе уже существующего материала. У неё получаются фейки нового уровня.

И именно поэтому OpenAI отказались представить GPT2 на суд общественности и обнародовать результаты своих исследований. Учёные боятся, что их программу могут применить во вред (с учётом её эффективности, такой исход вполне вероятен). Представители компании сообщили, что им "необходимо больше времени, чтобы обсудить последствия этого технологического прорыва для мира".

Работа программы для написания уникальных текстов поражает:

Системе всего лишь нужно задать первую строку или отрывок — и она напишет целый текст, который сложно будет отличить от того, что писал человек. GPT2 способна писать правдоподобные отрывки, которые соответствуют заданным в первой строке стилю и теме. Она редко ошибается и не забывает через пару абзацев, о чём пишет (что было с другими системами ИИ). У GPT2 базы данных статей и ссылок в 15 раз больше, чем у предыдущих систем, она может выполнять перевод и выискивать суть данных ей статей, проходить простые тесты на понимание прочитанного.

Чтобы показать, что ещё может их программа, OpenAI сделали одну версию GPT2 с несколькими минимальными настройками: и программа тут же научилась писать бесконечные положительные и отрицательные отзывы на продукты в интернете, а также генерировать спам. Стоит учесть, что ИИ учится в интернете, и при более расширенных настройках она запросто может начать создавать тексты от религиозных фанатиков, террористов, теории заговора и так далее.

Так что, с учётом умений нового ИИ, и приближающимися выборами в США, создателей GPT2 из OpenAI можно понять: как обнародовать программу, которая может перевернуть рынок фейковых новостей и свести с ума инспекторов по кибербезопасности во многих странах мира?