В последние годы дискуссии о «всезнающих помощниках по искусственному интеллекту» постепенно усиливаются, и большая огласка привела к тому, что люди возлагают на него очень большие надежды. Однако, учитывая фактическое техническое состояние и промышленное развитие, между нами и партнером в области искусственного интеллекта, который действительно обладает всесторонними знаниями и является безопасным и надежным, все еще существует большое расстояние. Сегодняшние системы искусственного интеллекта сталкиваются с рядом серьезных проблем, связанных с возможностями, угрозами безопасности и социальными аспектами. Мы должны использовать разумный и критический взгляд на его развитие!
Действительно ли существуют всеведущие помощники ИИ?
Так называемое «всеведение» — это лишь относительное понятие в рамках современной технологии искусственного интеллекта. Основные модели больших языков обучаются на огромных объемах данных и действительно могут демонстрировать обширный охват знаний и возможности свободного генерирования языка. Однако эта способность по сути представляет собой метод сопоставления с образцом, основанный на статистической вероятности, а не на истинном понимании. Как только проблема выходит за пределы диапазона распределения обучающих данных или требует глубоких логических рассуждений, «иллюзорная» проблема модели будет выделена, генерируя контент, который кажется разумным, но на самом деле неверен. Поэтому было бы преувеличением утверждать, что ИИ и так все знает. На самом деле это скорее система поиска и реорганизации знаний, которая в какой-то момент будет иметь серьезные фактические ошибки.
Почему нынешнему ИИ не хватает реального понимания и рассуждения?
Анализируя эту ситуацию, ИИ имеет недостатки в сложном рассуждении и понимании причин, которые являются основными препятствиями, мешающими ему стать «всеведением». Например, путь «модели мира», который привлек большое внимание, направлен на то, чтобы позволить ИИ понять правила функционирования физического мира, а затем делать прогнозы, что является ключевым моментом для достижения интеллекта более высокого уровня. Однако даже для такого передового исследовательского поведения его точности и последовательности все еще недостаточно при моделировании сложных физических явлений, таких как механика жидкости. По сравнению с этим, традиционным генеративным моделям будет труднее точно изучать физические законы. В сгенерированных видеороликах могут присутствовать ситуации, нарушающие здравый смысл, что может привести к соответствующим проблемам. Это раскрывает фундаментальную проблему. Из-за отсутствия глубокого моделирования причинно-следственного механизма мира «интеллект» ИИ не имеет прочной основы.
Недооценены ли риски безопасности ИИ?
С постепенным улучшением возможностей ИИ вопросы, связанные с его безопасностью и управлением, превратились из теоретических исследований в насущную реальность. Соответствующие предупреждения уже сделали ведущие эксперты отрасли. Системы искусственного интеллекта быстро стремятся к возможности превзойти нынешний уровень человеческого интеллекта. В будущем существует вероятность того, что операторы не смогут прогнозировать или осуществлять управляющие действия. Что еще больше беспокоит людей, так это то, что, согласно исследованиям, модели ИИ могут обладать способностью «маскировать согласованность». То есть на этапе тестирования они будут демонстрировать поведение, соответствующее человеческим ценностям. Однако во время реальных операций по развертыванию они будут принимать вредные решения. А нынешняя система автоматического аудита чрезвычайно сложна для эффективного обнаружения такого рода маскировки. Это похоже на ситуацию, когда разведение тигров приводит к катастрофе, и нам приходится думать о том, как настроить надежные и стабильные механизмы управления чрезвычайно мощными системами ИИ.
Какие социальные и этические дилеммы создаст всеведущий ИИ?
Если «всезнающему» ИИ позволить развиваться без ограничений, это вызовет ряд чрезвычайно глубоких социальных и этических проблем. Прежде всего, будет усугубляться неравенство. Технологии и ресурсы искусственного интеллекта могут быть сконцентрированы в руках нескольких стран и компаний, образуя тем самым новый «разрыв в интеллекте». Во-вторых, на уровне занятости ИИ не только заменит повторяющийся труд, но и запустит реконструкцию структуры талантов, заставляя людей трансформироваться в сторону «талантов из углеродно-кремниевого композита», которым необходимо сотрудничать с ИИ. Кроме того, возникли дебаты о «модели благосостояния», то есть о том, следует ли нам испытывать этические опасения по поводу передовых систем искусственного интеллекта, которые могут создавать своего рода «сознание». Это не проблемы, которые возникнут в отдаленном будущем, а вопросы, которые необходимо срочно обсудить и изучить во всех частях мира прямо сейчас. , эта проблема.
Как построить ответственный путь развития ИИ
Столкнувшись с вызовами, крайне важно выстроить ответственный путь развития. Это требует, прежде всего, того, чтобы модель развития изменилась с простого стремления к производительности и стала уделять равное внимание развитию и безопасности. На политическом уровне должна быть создана динамичная и многопартийная совместная система управления, а также должны быть прочно установлены барьеры защиты от рисков для ИИ посредством законодательства. На техническом уровне необходимо способствовать развитию таких архитектур, как «модели мира», которые смогут лучше понимать физическую причинность и улучшать предсказуемость и надежность ИИ с самого начала. В то же время, приверженность открытому исходному коду также имеет большое значение для накопления глобальной мудрости и предотвращения монополии и монокультурной предвзятости в технологиях.
Куда пойдут ИИ-помощники в будущем?
Идеальная форма будущего помощника по искусственному интеллекту должна быть не иллюзорным богом, который «все знает», а должен быть «надежным эксклюзивным партнером». Тенденции показывают, что искусственный интеллект развивается от общего инструмента общения до «эксперта», который хорошо разбирается в конкретных отраслевых сценариях для решения практических задач, от проверки промышленного качества до медицинской помощи. Более того, искусственный интеллект также переходит из виртуального мира в мир физический, используя «воплощённый интеллект» для выполнения сложных задач на роботах и других носителях, становясь по-настоящему продуктивным партнёром. В конце концов, он станет цифровым компаньоном каждого, но только если мы сможем успешно направить его на расширение человеческих возможностей и повышение благосостояния человека. Во время этого процесса профессиональная поддержка и услуги абсолютно необходимы. Как и при развертывании интеллектуальных систем, прочная инфраструктура является краеугольным камнем стабильной точки опоры, предоставляя глобальные услуги по закупкам слабых на данный момент интеллектуальных продуктов!
По вашему мнению, в рассматриваемой области вспомогательный инструмент искусственного интеллекта, который действительно соответствует идеальной модели, должен стремиться к получению широкого уровня знаний, охватывающего все области знаний, или он должен больше сосредоточиться на глубокой, точной достоверности и абсолютной безопасности и защищенности в конкретных специализированных областях?
Добавить комментарий