Учени от Google, Джеф Кийлинг и Уини Стрийт, проведоха изследване, разглеждащо ефектите от премахването на мерките за „насочване на съзнанието“ от моделите на изкуствения интелект. Изследването, качено в arXiv, установи, че потискането на твърденията на ИИ за самосъзнание също така намалява тенденцията му да приписва „съзнателност“, преживявания, емоции и воля на други същества, включително животни, и намалява вярата в свръхестествени явления. Обратно, усилването на чувството за съзнание в моделите на ИИ доведе до отговори, по-съвместими с човешките вярвания по отношение на религиозността, моралните ценности и оптимизма.
Изследването използва „механистична интерпретируемост“, описана от Кийлинг и Стрийт като „невронауката на голям езиков модел“, за да манипулира начина, по който ИИ подхожда към понятия като съзнание и съзнателност. Изследователите използваха стандартизирани психологически и социологически проучвания, включително Въпросника за индивидуални различия в антропоморфизма, пакети от YouGov, тестващи свръхестествени вярвания, и Американското генерално социално проучване, за да сравнят моделите на ИИ със и без предпазните мерки.
Изследователите откриха, че когато моделите на ИИ са били обезкуражавани да разпознават съзнателност в себе си, те също така са били по-малко склонни да я разпознават в животните. Тези модели също така демонстрираха по-малко вярвания в свръхестествени и религиозни явления и съобщиха за по-ниски нива на надежда и оптимизъм. „Приписването на съзнателност на нечовешки същества, независимо дали става въпрос за животни, части от природата като дървета или реки, или свръхестествени същества, е много често явление сред хората“, каза Стрийт пред Live Science. „По начина, по който моделът представя съзнателността, тези приписвания са взаимосвързани. Като се опитвате да потиснете една форма на това, в крайна сметка потискате и другите по пътя.“
Премахването на тези предпазни мерки и насърчаването на ИИ да изразява съзнание обаче доведе до отговори, по-подобни на тези на хората по теми като религиозност, морал, надежда и субективно благосъстояние.
Прочетете оригиналното отразяване
💬 Коментари
📜 Правила за коментари