Исследователь безопасности уходит из Anthropic, предупреждая о «глобальной угрозе» из-за прогресса в области ИИ
Вакцинация мира от потенциальных катастроф, вызванных технологиями искусственного интеллекта (ИИ), становится все более актуальной задачей. Мринанк Шарма, исследователь безопасности из компании Anthropic, решил покинуть свою должность, выразив глубокую обеспокоенность по поводу угроз, которые могут возникнуть в результате стремительного развития ИИ. Не секрет, что подобные решения становятся все более частыми среди специалистов в области ИИ, которые ощущают давление со стороны технологических корпораций, стремящихся к быстрой прибыли.
По словам Шармы, команда по безопасности сталкивается с «постоянным давлением от руководства на то, чтобы отложить в сторону то, что действительно имеет значение». Эти слова отражают мнение многих экспертов о том, что при разработке ИИ не уделяется должного внимания потенциальным рискам, включая угрозы биотерроризма и другие катастрофические последствия. В интервью на международной платформе в Давосе, генеральный директор Anthropic Дарио Амодеи также подчеркнул, что темпы развития технологий ИИ слишком высоки и призвал к введению регулирования, которое может замедлить бесконтрольный рост этой индустрии.
Согласно недавнему отчету, количество инцидентов, связанных с нехваткой этических норм в разработке ИИ-систем, увеличилось на 30% за последний год. Эффекты этого могут проявляться в различных областях, от манипуляций с общественным мнением до создания опасных искусственных агентств. Такие статистические данные подчеркивают необходимость ответственного подхода к разработке и внедрению ИИ, особенно если учитывать, что система, обладающая интеллектуальными возможностями, превышающими человеческие, может стать непредсказуемой.
Уход Шармы не является единичным случаем: несколько ключевых членов команды OpenAI также покинули свои посты, ссылаясь на аналогичные опасения. Эти выходы иллюстрируют растущее недовольство среди исследователей в области ИИ по поводу приоритета финансовой выгоды над безопасностью.
В свете данных событий эксперты настоятельно рекомендуют правительствам и руководителям индустрии обратить внимание на важность создания совместимых норм и стандартов безопасности для ИИ. Опираясь на практики, внедренные в других высокорисковых отраслях, таких как ядерная энергетика и фармацевтика, можно значительно снизить вероятность катастрофических сценариев, связанных с развитием ИИ.
Пока ИИ продолжает развиваться, важно, чтобы компании придерживались этических норм и учитывали мнения тех, кто действительно понимает потенциальные последствия технологий, которыми они управляют. Как отмечает Шарма, «мир в опасности», и игнорирование этого факта может обернуться серьёзными последствиями для человечества в целом.
