Капаните на AI разсъжденията: Задълбочено вникване в мащабирането при време на извеждане от Microsoft

Въведение

Изкуственият интелект (AI) е изминал дълъг път, като големите езикови модели (LLMs) водят революцията не само в технологиите, но и в различни индустриални сектори. Последни открития от изследване на Microsoft Research обаче изтъкват, че повече изчислителна мощност не е непременно отговорът, когато става въпрос за мащабиране при време на извеждане в AI разсъждения. За технологична корпорация като Encorp.ai, която се специализира в интеграции и персонализирани AI решения, разбирането на тези нюанси е от съществено значение.

Разбиране на мащабирането при време на извеждане

Мащабирането при време на извеждане включва разпределяне на допълнителни изчислителни ресурси към AI моделите по време на процеса на разсъждение с очакването за подобрени способности за решаване на проблеми. Традиционно това е означавало по-добро представяне, но изследването на Microsoft оспорва това разбиране. Основното откритие е, че простото въвеждане на повече системни токени или изчислителни ресурси не гарантира по-добри резултати.

Изследването се фокусира главно върху три метода за мащабиране - Стандартен верижен метод нан размисли (CoT), Паралелно мащабиране и Последователно мащабиране - и техните различни ефекти върху разнообразни модели и задачи.

Стандартен верижен метод нан размисли изисква моделът да решава проблемите в последователни логически стъпки.
Паралелно мащабиране генерира множество независими отговори, които по-късно се комбинират в единен консенсус.
Последователно мащабиране включва итеративно обратно връщане, докато не се достигне задоволително решение.

Основни открития от изследването

Използване на токени и нестабилност на разходите

Основно заключение е непредсказуемата променливост в използването на токени при различни модели, често водеща до недетерминираност на разходите - обезкуражаваща перспектива за компаниите, които интегрират такива AI решения. Резултатите показват, че решенията, които изразходват множество токени, не се превеждат непременно в по-висока точност.

Сравнение между AI моделите

Изследването включва сравнение на модели като o1 и o3-mini на OpenAI, Gemini 2 Flash на Google, сред други. Забележително е, че всеки модел се представя различно по задачи, което поставя под въпрос универсалната полезност на мащабирането при време на извеждане.

Какво означава това за бизнеса? На първо място, това предполага, че когато компании като Encorp.ai разглеждат интеграцията на AI за напреднали разсъждения, фокусът трябва да бъде върху сложността на задачите в реалния свят и управлението на разходите, преди просто да добавят повече изчислителни ресурси.

Стратегически прозрения за Encorp.ai

Предсказуемост на разходите

В Encorp.ai е от съществено значение да се гарантира, че разходите за AI остават предсказуеми, дори когато решенията се мащабират. Прозренията от изследването относно променливостта на токените могат да насочат разработването на по-ефективни модели и да помогнат при установяването на подходящи стандарти за AI решения.

Проверители и AI агенти

Изследването идентифицира потенциала за използване на 'перфектни проверители' за подобряване на ефективността и точността на моделите. Encorp.ai може да се възползва от това, като интегрира подобни механизми за проверка в AI агентите - оптимизирайки разпределението на ресурси за по-добри резултати.

Преодоляване на разликите с персонализирани решения

Констатациите, че конвенционални модели понякога съответстват на модели за разсъждения, когато им се предоставят повече извеждащи повиквания, всъщност подчертават област, в която Encorp.ai може да изпъкне. Чрез адаптиране на AI модели към конкретните нужди на клиентите, използването на конвенционални модели с подобрено обучение или техники за проверка може да предложи конкурентни, икономични AI решения.

Тенденции в индустрията и бъдещи възможности

Ролята на проверителите

Проверителите изпъкват като бъдещ краеъгълен камък в усъвършенстването на AI операциите. Тенденциите в индустрията предполагат, че акцент върху проверителите може да подобри основните методи на обучение, подобрявайки приложенията по задачи за предприятията.

Интеграция на AI с инструменти за бизнес интелигентност

За компании като Encorp.ai интеграцията на AI-базирани системи със съществуващите инструменти за бизнес интелигентност остава критична тенденция. Това изравнява теоретичните способности на AI с практическите предприятия изисквания, област изпълнена с възможности за персонализирани решения.

Освен това, обърнете внимание на тенденцията към интерфейси, управлявани от AI в решения за предприятия, често подобряващи достъпността чрез използване на естествени езици вместо формални процеси за заявки - основен език, върху който Encorp.ai трябва да се фокусира в оптимизацията на решенията си.

Заключение

Изследването на Microsoft предлага огромни прозрения не само за ограниченията, но и възможностите, когато се мащабират AI модели за разсъждения. Далеч от обезкуражаване на използването на AI, то подчертава важността на умни, персонализирани AI решения, които Encorp.ai превъзхождат да разработват. Чрез оставането напред в тези тенденции и интегрирането на авангардни технологични стратегии, Encorp.ai могат да помогнат на клиентите да отключат трансформативния потенциал на AI, дори сред развиващия се технологичен пейзаж.

Източници

Изследване на Microsoft Research за мащабиране при време на извеждане: Microsoft Research
Последни постижения в LLMs: VentureBeat
Представяне на AI модели: arXiv Paper
Подходи към разработката на AI — AI Magazine: AI Magazine — "Scaling the Challenges of Gen AI in the Cloud" (2024)
Управление на разходите в AI: AI Insider

Въведение

Разбиране на мащабирането при време на извеждане

Стандартен верижен метод нан размисли изисква моделът да решава проблемите в последователни логически стъпки.
Паралелно мащабиране генерира множество независими отговори, които по-късно се комбинират в единен консенсус.
Последователно мащабиране включва итеративно обратно връщане, докато не се достигне задоволително решение.

Основни открития от изследването