Виталик: новые AI-лаборатории должны сосредоточиться на инструментах для усиления человека, а не на долгосрочных автономных системах

Foresight News сообщает, что соучредитель Ethereum Виталик Бутерин заявил: если кто-то хочет создать новую «AI-лабораторию, потому что существующие лаборатории не приносят пользы человечеству», то у такой лаборатории должен быть четкий устав, сосредоточенный на инструментах для усиления человеческих возможностей, и она не должна разрабатывать проекты с автономным временем работы более 1 минуты. По его мнению, даже если все аргументы по безопасности окажутся ошибочными, компании ASI, стремящиеся к максимальной автономии, будут появляться снова и снова, в то время как ниша по усилению человека остается недостаточно развитой. Кроме того, он призвал максимально открывать исходный код.