Второе пришествие Сэма Альтмана порождает новые опасения по поводу апокалипсиса ИИ

Новый босс Open AI выглядит так же, как старый босс. Но компания и индустрия искусственного интеллекта, возможно, были глубоко изменены мыльной оперой последних пяти дней с высокими ставками. Генеральный директор, соучредитель и номинальный руководитель OpenAI Сэм Альтман был уволен советом директоров в пятницу. К вечеру вторника, после массового протеста большинства сотрудников стартапа, Альтман вернулся, и большая часть существующей доски исчезла. Но этот совет, в значительной степени независимый от деятельности OpenAI, был связан миссией «на благо человечества» и имел решающее значение для уникальности компании.

Альтман совершил поездку по миру в 2023 году, предупреждая средства массовой информации и правительства о экзистенциальной опасности технологии, которую он разрабатывал, изображая некоммерческую структуру OpenAI как искру против безрассудного развития мощного ИИ. . Что бы Альтман ни делал с миллиардами Microsoft, команда сможет держать его и других руководителей компании под контролем. Если он, по мнению правления, начнет действовать опасно или против человеческих интересов, правление может его исключить. «Правление может меня уволить, и я думаю, что это важно», — сказал Альтман агентству Bloomberg в июне.

«Они не смогли его уволить, это плохо», — говорит Тоби Орт, старший научный сотрудник философии Оксфордского университета.

В совет директоров были внесены изменения, в которые вошли корпоративные деятели и бывший министр финансов США Ларри Саммерс, посвященный проблемной технологии перезагрузки руководства OpenAI. Два директора, связанные с движением «эффективный альтруизм», обе женщины, были исключены из совета директоров. Он кристаллизовал существующие разногласия по поводу того, как следует управлять будущим ИИ. Тумеры совершенно иначе смотрят на результат, опасаясь, что ИИ уничтожит человечество; Нелюди, которые думают, что технологии ускорят наступление утопического будущего; Верующие в свободный рыночный капитализм; А сторонники ужесточения регулирования для контроля над ненадежными технологическими гигантами уравновешивают потенциальный вред мощных прорывных технологий с желанием заработать деньги.

READ  Россия и Китай подписали двусторонние соглашения, несмотря на критику Запада

«В какой-то степени это конфликтный курс, над которым уже давно работают», — говорит Арт, которому также приписывают сооснование эффективного альтруистического движения, часть которого стала одержима гибельным концом ИИ. спектр риска. «Если команда управления некоммерческой организацией OpenAI принципиально бессильна повлиять на ее поведение, я думаю, что было бы хорошо разоблачить это бессилие».

Интервал правления

Почему команда OpenAI решила выступить против Альтмана, остается загадкой. В заявлении о том, что Альтман уходит с поста генерального директора, говорится, что он «продолжал быть нечестным в общении с советом директоров, препятствуя его способности выполнять свои обязанности». Во внутренней записке OpenAI позже разъяснялось, что увольнение Альтмана «не было сделано в ответ на правонарушения». Эмметт Шир, второй из двух временных генеральных директоров, управлявших компанией с вечера пятницы до утра среды, после вступления в должность написал, что спросил, почему Альтмана уволили. «Правление уволило Сэма не из-за конкретных разногласий по поводу безопасности», — написал он. «Их обоснование совершенно отличается от этого». Он пообещал разобраться в причинах увольнения Альтмана.

Вакуум оставил место для слухов, в том числе о том, что Альтман уделяет слишком много времени сторонним проектам или что он просто слишком почтительно относится к Microsoft. Это способствовало развитию теорий заговора, например, что OpenAI создала общий искусственный интеллект (AGI), а правление включило аварийный выключатель по совету главного ученого, соучредителя и члена правления Ильи Суцкевера.

«Я точно знаю, что у нас нет искусственного интеллекта», — сказал Дэвид Шриер, профессор обучения, искусственного интеллекта и инноваций в бизнес-школе Имперского колледжа в Лондоне.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *