Специалисты расходятся во мнениях относительно того, насколько реальна угроза создания биологического оружия с помощью искусственного интеллекта. Оливия Шарфман, сотрудница биотехнологического направления в аналитическом центре Institute for Progress, заявила WIRED, что сегодня ИИ не способен попасть в полностью автономную лабораторию и самостоятельно собрать вирус, поскольку таких лабораторий пока не существует. Однако, по её словам, ИИ вполне может заплатить человеку за выполнение такой работы.
Шарфман считает, что угроза биотерроризма с участием ИИ вполне реальна уже сейчас. По её мнению, существуют группы, которые могут решиться на подобные действия из нигилистических побуждений, в том числе так называемые «трансгуманистические ИИ-сукцессионисты» — сторонники маргинальной идеологии, мечтающие заменить людей ботами.
Другие эксперты не разделяют такой тревоги, поскольку сомневаются в практической целесообразности биологической войны. Генетик и профессор вычислительной биологии Франсуа Беллу рассказал WIRED, что риски подобного рода обычно преувеличивают, а ценность патогенов как оружия завышают. По его словам, биологическое оружие плохо подходит даже тем, кто стремится к массовым убийствам: сложно направить его только против определённых групп, не задев остальных, а массовое производство и распространение возбудителей куда сложнее, чем, например, взрыв бомбы. «Если вы хотите убивать людей, есть гораздо, гораздо, гораздо более эффективные способы, чем пытаться сконструировать какой-то вирус или бактерию и потом выпустить их», — отметил он, добавив, что это касается и самого совершенного искусственного разума, и обычного человека.
На фоне обсуждения угрозы биологического оружия с участием ИИ Шарфман призывает уже сейчас усиливать защиту от всех биологических угроз, включая известные патогены вроде H1N1. Речь может идти о законодательных мерах по повышению безопасности технологий синтеза ДНК, а также о более широких изменениях, например модернизации систем очистки воздуха в зданиях.
Стеф Герра, руководитель направления ИИ и биологии в аналитическом центре Rand Corporation, отмечает, что однозначно ответить на вопрос, повышает ли ИИ риск разработки биологического оружия, сложно. По её словам, ИИ хорошо умеет объединять информацию и мотивировать людей как на хорошие, так и на плохие поступки. Даже при низком уровне риска общество может защититься от возможного злоупотребления: например, обязать компании, продающие синтетические ДНК и РНК, проверять клиентов и заказы, чтобы не допустить неправомерного использования генетического материала. Многие фирмы уже применяют программы для проверки заказов на так называемые «опасные последовательности», но эта практика не универсальна и не закреплена законодательно. Кроме того, по мнению Герры, снизить угрозу помогут усиление глобального надзора за вспышками новых заболеваний и раннее информирование исследователей о циркулирующих патогенах, а также обмен данными между ИИ-компаниями, производителями синтезированных генов и государством. «Практически любой биозащитный контроль можно обойти, — говорит она. — Поэтому нужны многоуровневые подходы, которые создают препятствия на всём пути — от замысла злоумышленника до выпуска биологического оружия».
По словам Унутмаза, есть и более насущная проблема: разговоры о «конце света» из-за ИИ отвлекают внимание от того, как передовые системы могут помочь людям в разработке вакцин и других медицинских прорывах. «Нам действительно нужно сосредоточиться на положительной стороне», — заявил он.