Этические размышления о технологии убеждения

Технология убеждения возникла как новый вид междисциплинарной области искусства и науки. Методы и технологии убеждения традиционно включали устную или письменную речь, будь то для представления аргументов или для риторических стратегий и соблазнительных лозунгов. Напротив, в настоящее время этот термин относится к технологии взаимодействия человека и компьютера, которая способна влиять или даже изменять восприятие, установки или поведение людей. Существует широкий спектр приложений, оказывающих значительное социальное воздействие. Однако новизна, скрытность, полиморфизм и другие характеристики продуктов искусственного интеллекта с функциями убеждения будут скрывать их намерения, ограничивать свободу выбора пользователей, ставить их в невыгодное положение и даже могут вызывать привыкание. Чтобы избежать или смягчить эти проблемы, необходимо провести этическую экспертизу разработки и применения технологий убеждения. В то же время неопределенность алгоритмических систем, управляемых данными, и множество моральных агентов, связанных с компьютерными системами, затрудняют традиционную оценку. Мы не сможем справиться с этими вызовами, пока не выйдем за рамки дихотомии между теоретической и прикладной этикой, расширив семантический и прагматический охват концепции ответственности. Что касается этики технологий, то нам необходимо сместить акцент с ответственности за пассивно мыслящих пользователей на активное принятие ответственности и создать новую концептуальную основу этики для будущего человечества.