Anthropic: RSI, самоусъвършенстващият се ИИ, е близо — какво се променя

TechCrunch съобщава, че Anthropic е предупредила, че е много близо до RSI — точката, в която ИИ става достатъчно добър в обучението на самия себе си, за да предизвика рязко ускорение на способностите. Репортажът описва този етап в остри изражения: за най-алармизма настроените наблюдатели RSI е точката, от която няма връщане назад. Онтова, което съобщението не уточнява, е срок, дефиниция на прага, който има предвид, или каквото и да е измерване зад твърдението.

Какво всъщност обхваща терминът

Рекурсивното самоусъвършенстване описва цикъл, в който моделът участва в работата, която прави следващия модел по-добър: предлага подходи за обучение, пише задачи за оценка, генерира данни или настройва своя наследник. Установен отраслов контекст: днешните системи вече помагат в части от този процес, но хората все още задават целите, подбират резултатите и решават какво да бъде пуснато. Спорният въпрос е дали цикълът може да се затвори и колко бързо.

За всеки, който разработва продукт, практическото разграничение е между по-бърз цикъл на итерация върху модели и твърдение за ускорение на самите способности. Първото е промяна от страна на предлагането, около която може да се планира. Второто е прогноза и репортажът не предлага доказателства, с които да се датира.

Къде се усеща натискът върху трафика и приходите

Ако способностите напредват на по-кратки интервали, екипите за привличане на трафик и монетизация го усещат на две места. Прозорците за съдържание и рекламни материали се скъсяват: предимство, изградено върху конкретен генеративен работен процес, има по-кратък срок на годност, което тласка екипите към възпроизводими производствени процеси, а не към еднократни трикове. И ценовата сила се измества към този, който притежава дистрибуцията, данните или връзката с клиента, защото самите функции се копират по-бързо.

Втори ефект е доверието. Интерфейсите, които зависят от генерирано съдържание, се нуждаят от видим контрол на качеството, а купувачите все по-често питат как е била оценена дадена система. Това е въпрос на конверсия и задържане на клиенти, не по-малко, отколкото инженерен въпрос.

Какво може да направи един екип тази седмица

• Запишете кои работни процеси с помощта на ИИ сега са част от фунията ви за привличане на трафик и откога са налице; всичко по-старо от тримесечие е кандидат за преглед.
• Проверете дали AI функциите, които клиентите виждат, имат описана процедура за оценка или резервен вариант и дали тя е видима за клиентите.

Позицията на Eleutheros: дебатът за RSI е прогноза и прогнозите не бива сами по себе си да определят плановете за развитие. Това, което е приложимо сега, е скоростта на итерация и устойчивостта на предимството, което тя носи. Екипите, които могат бързо да преизградят процес за създаване на рекламни материали и които могат да покажат как се проверява резултатът от ИИ, са в по-добра позиция, какъвто и да се окаже срокът. Репортажът не казва кога, и вашият план също не трябва.