Аграрий из китайской провинции Аньхой лишился практически всех посевов кунжута на площади 10 гектаров. Причиной массовой гибели растений стало строгое следование инструкциям искусственного интеллекта по борьбе с сорной травой. Об инциденте сообщает издание Ctwant.
Земледелец по фамилии Ву интегрировал нейросети в свою повседневную работу около года назад. С помощью чат-ботов он планировал график полевых работ, подбирал удобрения и рассчитывал дозировки пестицидов. Изначальный скепсис мужчины со временем сменился полным доверием к алгоритмам, и он начал регулярно применять цифровые рекомендации на практике.
В прошлом месяце китаец поручил ИИ разработать алгоритм уничтожения вредителей и сорняков на кунжутных плантациях. Программа сгенерировала план обработки с использованием комбинации химикатов. Земледелец не стал перепроверять данные у профессиональных агрономов и распылил реагенты строго по инструкции машины.
Уже на следующие сутки на поле началось увядание не только сорной травы, но и самой полезной культуры. Повторный запрос в чат-бот прояснил ситуацию: алгоритм признал, что один из предложенных им гербицидов губителен для этих посадок.
Привлеченные профильные специалисты подтвердили критическую ошибку системы. Выяснилось, что назначенный химикат предназначен исключительно для обработки соевых полей от широколиственных сорняков. Его сплошное распыление над кунжутом неизбежно провоцирует фитотоксичность и выжигает растения.
Сам пострадавший утверждает, что нейросеть не предупредила его о фатальных рисках в должной мере. При этом интерфейс цифрового сервиса изначально содержит стандартное уведомление о возможных алгоритмических ошибках и необходимости верификации любых данных. Ву признался, что ранее просто игнорировал эту сноску.