Виталик Бутерин предостерег от поспешного создания сверхразумного ИИ

Виталик Бутерин, известный своими технологическими и философскими взглядами, недавно поделился своими опасениями по поводу стремительного развития искусственного интеллекта. В своем посте на платформе X (ранее Twitter) он отметил, что создание сверхразумного ИИ представляет собой серьезный риск. «Сверхразумный ИИ очень рискован и не следует с ним торопиться, и необходимо противостоять тем, кто пытается это сделать», — написал Бутерин.

Бутерин также подчеркнул важность создания разнообразной экосистемы ИИ, работающей на потребительском оборудовании. Он считает, что такая экосистема может служить защитой от будущего, в котором ценность, создаваемая ИИ, будет сосредоточена в руках немногих. «Сильная экосистема открытых моделей, работающих на потребительском оборудовании, является важным средством защиты от будущего, в котором полученная с помощью ИИ ценность станет гиперконцентрированной, а большая часть человеческих мыслей будет считываться и опосредоваться несколькими центральными серверами под управлением немногих людей», — заявил он.

Бутерин выразил озабоченность по поводу использования ИИ в корпоративных и военных целях. Он считает, что такие применения ИИ могут быть более опасными, чем те, которые разрабатываются в открытых и децентрализованных экосистемах. По его мнению, текущие достижения в области ИИ часто вызывают у общества волнение и беспокойство, и необходимо быть осторожными, чтобы избежать концентрации власти в руках немногих.

Виталик Бутерин также обратился к вопросу регулирования ИИ. Он поддерживает идею разделения алгоритмов на категории «маленькие» и «большие», где приоритетность регулирования больших алгоритмов «кажется разумной». Однако он выразил обеспокоенность тем, что многие текущие предложения со временем могут превратиться в «большие».

Ранее Бутерин опубликовал статью, где ответил на критику касательно централизации Ethereum. Он подчеркивает важность децентрализации и открытости в технологических разработках, что отражает его общие взгляды на развитие и применение искусственного интеллекта.

Виталик Бутерин предостерегает от поспешного создания сверхразумного ИИ и призывает к более осмотрительному подходу в исследованиях этой области. Он подчеркивает важность создания разнообразной и децентрализованной экосистемы ИИ, чтобы избежать концентрации власти и повысить безопасность использования этих технологий.