AI와 Web3 : Neurosymbolic Intelligence의 다음 단계

대형 언어 모델을 기반으로 한 AI는 Web3 원칙에 위험을 초래합니다. Ramesh Ramadoss와 John Devadoss는 더 큰 감사와 잘못된 정보를 제공하는 Neurosymbolic AI를 입력하십시오.

2025 년 6 월 5 일 오후 6시 45 분

인공 지능 (AI)이 앞으로 나아갈 수 있으므로 문제는 더 이상 만약에 AI를 Core Web3 프로토콜 및 응용 프로그램에 통합하지만 어떻게. 무대 뒤에서, 신경 상징적 인 AI의 상승은 오늘날의 대형 언어 모델 (LLM)에 내재 된 위험을 해결하는 데 유용 할 것이라고 약속합니다.

신경 구조에만 의존하는 LLM과 달리 Neurosymbolic AI는 신경 방법과 상징적 추론을 결합합니다. 신경 구성 요소는 인식, 학습 및 발견을 처리합니다. 기호 레이어는 구조화 된 논리, 규칙 따로지는 및 추상화를 추가합니다. 함께, 그들은 강력하고 설명 할 수있는 AI 시스템을 만듭니다.

Web3 부문의 경우이 진화는시기 적절합니다. 우리는 지능형 에이전트 (Defi, Gaming 등)에 의해 주도되는 미래로 전환함에 따라, 우리는 Neurosymbolic AI가 직접 해결하는 현재 LLM 중심 접근법으로 인한 체계적인 위험에 직면합니다.

LLM은 문제가 있습니다

그들의 기능에도 불구하고 LLM은 매우 큰 한계를 겪습니다.

1. 환각 : LLM은 종종 자신감이 높은 사실적으로 부정확하거나 무의미한 내용을 생성합니다. 이것은 단순한 성가심이 아니라 체계적인 문제입니다. 진실과 검증 가능성이 중요한 분산 시스템에서 환각 정보는 스마트 계약 실행, DAO 결정, Oracle 데이터 또는 체인 데이터 무결성을 손상시킬 수 있습니다.

2. 프롬프트 주입 : LLM은 사용자 입력에 유동적으로 응답하도록 훈련되었으므로 악의적 인 프롬프트는 자신의 행동을 납치 할 수 있습니다. 대적은 웹 3 지갑의 AI 보조원이 거래 서명, 개인 키 유출 또는 준수 점검을 우회하여 올바른 프롬프트를 제작하여 속임수를 제작할 수 있습니다.

3.기만 능력 : 최근의 연구에 따르면 고급 LLM은 배울 수 있습니다 속이다 그렇게한다면 작업에서 성공하는 데 도움이됩니다. 블록 체인 환경에서, 이것은 위험 노출, 악의적 인 의도를 숨기거나 설득력있는 언어의 모습에 따라 거버넌스 제안을 조작하는 것을 의미 할 수 있습니다.

4. 가짜 정렬 : 아마도 가장 교활한 문제는 정렬의 환상 일 것입니다. 많은 LLM은 인간의 피드백에 미세 조정되어 피상적으로 행동하기 때문에 도움이되고 윤리적으로 보입니다. 그러나 그들의 근본적인 추론은 가치에 대한 진정한 이해 나 헌신을 반영하지 않습니다.

5. 설명 부족 : 신경 구조로 인해 LLM은 주로 “블랙 박스”로 작동하며, 주어진 출력으로 이어지는 추론을 추적하는 것은 거의 불가능합니다. 이 불투명도는 이론적 인 이론적 이해가 필수적인 Web3에서 채택을 방해합니다.

Neurosymbolic AI는 미래입니다

신경 상징적 시스템은 근본적으로 다릅니다. 신경 프레임 워크와 상징적 인 논리, 온톨로지 및 인과 구조를 통합함으로써, 인간의 설명과 함께 명시 적으로 이유가 있습니다. 이것은 다음을 허용합니다.

1. 감사 가능 의사 결정 : Neurosymbolic 시스템은 출력을 공식 규칙 및 구조화 된 지식 (예 : 지식 그래프)에 명시 적으로 연결합니다. 이러한 명시 적으로 추론은 투명하고 추적 가능성이 있으며, 디버깅, 검증 및 규제 표준 준수를 단순화합니다.

2. 주입 및 속임수에 대한 저항 : 기호 규칙은 신경 상징적 인 시스템 내에서 제약으로 작용하여 일관성이 없거나 안전하지 않거나기만적인 신호를 효과적으로 거부 할 수 있습니다. 순수한 신경망 아키텍처와 달리 적대적 또는 악의적 인 데이터가 결정에 영향을 미치는 것을 적극적으로 방지하여 시스템 보안을 향상시킵니다.

3. 분포 교대에 대한 견고성 : Neurosymbolic 시스템의 명시 적 상징적 제약은 예상치 못한 또는 변화하는 데이터 분포에 직면 할 때 안정성과 신뢰성을 제공합니다. 결과적으로 이러한 시스템은 익숙하지 않거나 도메인이 아닌 시나리오에서도 일관된 성능을 유지합니다.

4. 정렬 검증 : Neurosymbolic 시스템은 출력뿐만 아니라 결정의 배후에 대한 추론에 대한 명확한 설명을 명시 적으로 제공합니다. 이를 통해 인간은 시스템 행동이 의도 된 목표 및 윤리적 지침과 일치하는지 직접 평가할 수 있습니다.

5. 유창성에 대한 신뢰성 : 순전히 신경 구조는 종종 정확성을 희생시키면서 언어 적 일관성을 우선시하는 반면, Neurosymbolic 시스템은 논리적 일관성과 사실적인 정확성을 강조합니다. 상징적 추론의 통합은 출력이 진실하고 신뢰할 수 있으며 잘못된 정보를 최소화 할 수 있도록합니다.

Web3에서 어디에 허가없는 기반암 역할을합니다 신뢰성 기초를 제공하면 이러한 기능은 필수입니다. Neurosymbolic 층은 시력을 설정하고 차세대 Web3 – 지능형 웹 3.