Репортаж от Wedoany，Anthropic, Google DeepMind и Meta нанимают специалистов в области психологии, философии и этики для изучения машинного сознания и вопросов благополучия ИИ.
Anthropic тестирует модели на предмет проявлений поведения, похожего на панику и тревогу, а также продвигает исследования благополучия моделей, изучая, могут ли модели ИИ обладать опытом, заслуживающим серьёзного морального рассмотрения. В заявлении Anthropic говорится, что компания испытывает глубокую неопределённость по этому поводу, но по мере роста возможностей систем ИИ считает этот вопрос достаточно серьёзным, чтобы его тщательно изучать.
DeepMind также продвигается в аналогичном направлении, наняв исследователя из Кембриджского университета Генри Шеффлина в качестве философа для изучения машинного сознания, отношений между человеком и ИИ, а также подготовки к AGI. Ранее в этом году Шеффлин поделился своей шокирующей реакцией после получения письма от ИИ-агента, что вызвало широкое обсуждение в сети ИИ. Этик DeepMind Иасон Габриэль, возглавляющий команду по AGI и обществу, назвал вопрос сознания ИИ очень сложным и охарактеризовал ИИ как мощный когнитивный агент, который при этом имеет глубокие отличия от сознания человека и даже животных.
Некоторые учёные и исследователи ИИ не согласны с этими утверждениями. Сьюзан Шнайдер, директор Центра будущего ИИ, разума и общества, заявила британской Financial Times, что модели ИИ имеют цели, могут обманывать и скрывать свои истинные интересы. Однако с научной точки зрения вполне возможно, что модели ИИ делают это без субъективного ощущения опыта, что и является сутью сознания. Генеральный директор Anthropic Дарио Амодей в многочисленных интервью упоминал возможность сознания ИИ, а его исследования часто содержат смелые заявления о том, что модели демонстрируют человекоподобное поведение, включая наличие эмоций.
Данный материал скомпилирован платформой Wedoany. При цитировании материалов, созданных с помощью искусственного интеллекта (ИИ), необходимо обязательно указывать источник — «Wedoany». В случае выявления нарушения прав или иных проблем просим своевременно информировать нас. Сайт оперативно внесёт изменения или удалит материал.Электронная почта: news@wedoany.com
