Илон Маск назвал три принципа безопасного развития ИИ: новый подход эксперта
фото: фрипик
Илон Маск, известный предприниматель и основатель компаний Tesla, SpaceX и xAI, вновь выразил обеспокоенность по поводу потенциальных угроз, связанных с развитием искусственного интеллекта (ИИ). В ходе интервью с индийским миллиардером Нихилом Каматом, он выделил три ключевых принципа, необходимых для обеспечения безопасности и этичности разработки и применения данной технологии.
Маск подчеркнул, что, несмотря на значительные перспективы, развитие ИИ не является неизбежным и может привести к разрушительным последствиям. Его участие в создании некоммерческой организации OpenAI в 2015 году и последующее отстранение от её руководства в 2018 году свидетельствуют о его стремлении к созданию ИИ, ориентированного на общечеловеческие ценности.
Первый принцип, предложенный Маском, заключается в стремлении к истине. Он утверждает, что ИИ, не обладающий способностью к критическому восприятию информации, может быть подвержен дезинформации, что может привести к логическим ошибкам и потенциально опасным последствиям. В качестве примера он привёл случай с системой Apple Intelligence, которая в этом году распространяла ложные уведомления о несостоявшейся победе Люка Литтлера в соревнованиях по дартсу.
Второй принцип касается эстетического восприятия. Маск отметил, что это понятие является сложным для формализации, однако его интуитивное понимание может способствовать созданию более гармоничного и этичного ИИ.
Третий принцип — любознательность. Маск считает, что ИИ должен быть заинтересован в понимании природы реальности и способствовать развитию человеческой цивилизации, а не её деструкции.
Эти принципы находят отклик у других экспертов в области ИИ. Джеффри Хинтон, известный как «крёстный отец ИИ», ранее оценил вероятность угрозы, которую ИИ может представлять для человечества, в диапазоне от 10% до 20%. Он также призвал к усилению исследований, направленных на обеспечение безопасности и этичности данной технологии.
Таким образом, высказывания Маска подчёркивают необходимость комплексного подхода к разработке ИИ, который должен учитывать не только технические, но и этические аспекты. Это позволит минимизировать риски, связанные с использованием данной технологии, и обеспечить её безопасное и эффективное применение в будущем, пишет источник.
