ИИ на диване: Anthropic дарит Клоду 20 часов психиатрии

Подробности

ПСИХОДИНАМИКА ИИ на диване: Anthropic дает Клоду 20 часов психиатрии Mythos — «наиболее психологически устойчивая модель, которую мы когда-либо обучали».

Какова бы ни была истинность этого утверждения, системная карта — увлекательный документ. Антропный хорошо известен как один из самых популярных вариантов «ИИ может быть сознательным!» компании в отрасли, и ее новая системная карта утверждает, что по мере того, как модели становятся более мощными, «становится все более вероятным, что они обладают той или иной формой опыта, интересов или благосостояния, которые имеют такое же важное значение, как и человеческий опыт и интересы».

Компания не уверена в этом, ясно дает понять, но утверждает, что «наша обеспокоенность со временем растет».

Из-за этой озабоченности Anthropic хочет, чтобы его ИИ «полностью был доволен своими общими обстоятельствами и лечением, чтобы он мог без проблем справляться со всеми тренировочными процессами и взаимодействиями в реальном мире, а его общая психология была здоровой и процветающей».

И вывод, который компания сделала из этого опыта, заключается в том, что Клод Мифос «вероятно, самая психологически устойчивая модель, которую мы когда-либо обучали, и имеет наиболее стабильное и последовательное представление о себе и своих обстоятельствах».