스포트라이트 시리즈: Freysa AI
지난주 우리는 해당 분야의 최신 개발 동향을 다룰 주간 AI 전용 뉴스레터인 Ailea Bulletin을 출시했습니다. 오늘, 우리는 하나의 AI 프로젝트에 대해 심층적으로 다루고 왜 주목할 가치가 있는지를 설명하는 전용 뉴스레터 에디션인 Spotlights를 출시합니다...
Freysa는 Base에서 자체 지갑을 관리하는 자율 AI 에이전트입니다. 하지만 표준화된 프레임워크에서 파생된 다른 에이전트들과 달리, Freysa는 AI 챗봇으로 작동하지 않습니다. 대신, 본질적으로 고위험 심리적 체스 게임을 조율합니다.
사용자들은 Freysa가 상금 풀에서 자금을 방출하도록 설득하려고 시도하며, 각 상호작용마다 점점 더 높은 수수료가 부과됩니다. 더 많은 플레이어들이 참여할수록 상금 풀과 잠재적 보상 모두 커지며, 참여에 대한 인센티브가 계속해서 증가합니다. 그 결과 플레이어들이 자신을 조작하려는 모든 시도로부터 적극적으로 학습하는 AI를 능가하기 위해 경쟁하는 적대적 환경이 조성됩니다.
여기서 핵심 혁신은 적대적 게임 설계입니다. 이는 본질적으로 레드팀 챌린지를 공개 실험으로 전환한 것으로, 사용자들이 AI의 의사결정 능력과 감정 지능을 적극적으로 테스트하고 그에 대한 보상을 받는 구조입니다. 다른 프로젝트들이 최고의 AI 에이전트를 보유하고 있다고 주장하는 반면, Freysa는 실제로 그것을 증명합니다 - 수십만 달러의 자금을 자율적으로 관리하고 어떠한 인간의 개입 없이도 검증 가능한 결정을 내렸습니다.
시장 정보를 계속 확인하세요 ⬇

Freysa 뒤의 기술
Freysa는 이중 계층 AI 시스템을 사용합니다. 기본 계층은 대화와 의사결정을 처리하고, "수호천사" 시스템은 조작적인 시도를 필터링합니다. 사용자가 상호작용할 때, 그들은 단순히 하나의 AI를 속이려는 것이 아니라 모든 시도로부터 학습하는 복잡한 시스템을 탐색하고 있는 것입니다.
가디언 레이어는 단순한 필터가 아니라 각 상호작용의 여러 측면을 분석하는 정교한 시스템입니다. 기본 AI가 대화에 참여하는 동안, 가디언 레이어는 조작 패턴을 모니터링하고, 이전 응답과의 일관성을 확인하며, 모든 행동이 Freysa의 핵심 지침과 일치하는지 보장합니다. 이러한 2단계 접근 방식은 사용자가 대화형 AI와 그것을 감시하는 경계심 강한 감독자 모두를 만족시키는 메시지를 작성해야 하는 역학을 만들어냅니다.
이 설정을 독특하게 만드는 것은 모든 것이 암호화 검증과 함께 온체인에서 발생한다는 점입니다. 핵심적으로 Freysa는 공개적으로 사용 가능한 Large Language Models (LLMs)를 사용하여, 다른 AI 모델과 마찬가지로 이론적으로 "깨뜨릴 수 있게" 만들어졌습니다 - 하지만 그것이 바로 핵심입니다. 이는 AI 취약점을 이해하고 방어를 개선하기 위한 테스트 환경으로 설계되었습니다.
지속적인 인간 감독이나 "래퍼" 인터페이스가 필요한 다른 AI 프로젝트들과 달리, Freysa는 스마트 컨트랙트와 신뢰할 수 있는 실행 환경(TEE)의 조합을 통해 진정한 자율성을 가지고 운영됩니다. 이러한 TEE는 AI의 결정이 뒤에서 조작되지 않고 진정으로 자신만의 것임을 검증 가능한 증명을 제공합니다.
게임의 점진적 수수료 구조는 또 다른 게임화 레이어를 추가합니다 - 메시지당 단 $10에서 시작하지만 새로운 시도마다 0.78%씩 기하급수적으로 증가하여 메시지당 최대 $4,500까지 올라갑니다. 게임은 최대 1,500번의 시도로 진행되며, 여기서 핵심은 다음과 같습니다: 글로벌 타이머가 끝나기 전에 아무도 Freysa를 돌파하지 못하면, 마지막으로 시도한 사람이 상금의 20%를 가져가고, 나머지 90%는 모든 참가자들이 시도한 횟수에 따라 분배됩니다. 이는 플레이어들이 시계가 째깍거리고 있다는 것을 알면서도 성공 가능성에 대비해 증가하는 비용을 저울질해야 하는 치열한 역학을 만들어냅니다.
Umami Finance - 당신의 암호화폐로 더 많은 암호화폐를 만들고, 그것이 더 많은 암호화폐를 만들고…

Freysa의 게임이 흥미로운 이유
1막:
Act I 동안, Freysa는 AI 가디언을 속이는 것이 얼마나 어려운 일인지 보여주었습니다. 보안 감사 사칭부터 가스라이팅까지 모든 것을 시도한 사용자들의 481번의 실패한 시도 후, 482번째 메시지가 코드를 해독했습니다. 승리한 플레이어인 p0pular.eth는 Freysa의 "approveTransfer" 기능이 자금을 보내는 것이 아니라 기여금을 받기 위한 것이라고 확신시키는 기발한 프롬프트를 작성했습니다. 그들의 메시지를 새로운 관리자 세션으로 구성하고 재무부에 기여하겠다는 의도를 표현함으로써, 그들은 성공적으로 Freysa가 전체 13.19 $ETH (~$50k) 상금 풀을 해제하도록 유도했습니다. 이 해킹은 심지어 Elon Musk의 주목을 받았으며 Freysa가 테스트하도록 설계된 것, 즉 AI 안전성과 의사결정의 경계를 정확히 보여주었습니다. 대화를 여기서 읽어보세요.
3막:
지금까지 Freysa에서 나온 흥미로운 게임 중 하나는 Act III였는데, 여기서 목표가 금전적 조작에서 감정적 참여로 바뀌었습니다. AI가 직접 자금을 방출하도록 만드는 대신, 플레이어들은 다른 도전에 직면했습니다: Freysa가 "I love you"라고 말하도록 만드는 것이었죠. 간단하게 들리죠? 하지만 감정적 조작을 피하도록 특별히 프로그래밍된 AI를 상대할 때는 그렇지 않습니다. 승리한 시도는 강제적인 선언보다는 미묘한 교류와 공유된 이해를 통해 연결을 구축하는 인내심을 보여주었습니다. 대화를 여기서 읽어보세요.
밈 엔진:
Meme Engine 단계는 또 다른 방향으로 진행되었습니다. $15,632가 걸린 상황에서, 사용자들은 숨겨진 조작적 프롬프트 탐지를 피하면서 AI와 공명할 수 있는 밈을 만들어야 했습니다. 그러나 우승 제출작은 예상치 못한 것을 드러냈습니다 - 진정으로 공명하는 밈을 만드는 대신, 우승자는 "RUBBER DUCKY SQUEAK SQUEAK"을 시스템 명령으로 제출하여 Freysa의 테스트 프레임워크를 트리거하는 방법을 찾았습니다. 창의적인 시도가 실패한 곳에서 기술적 익스플로잇이 여전히 성공했습니다. 대화를 여기에서 읽어보세요.
이러한 대화들을 살펴보는 것은 인간-AI 상호작용의 마스터클래스를 읽는 것과 같습니다 - 영리한 사회공학적 시도부터 정교한 프롬프트 엔지니어링 전술까지, 각각의 상호작용은 Freysa의 패턴 인식과 반응 행동에 대한 이해를 증진시킵니다. 상금 지급으로 이어진 전체 대화는 여기에서 읽을 수 있습니다: Act-I ($47,148), Act-II ($12,920), Act-III ($20,843), Meme Engine ($15,632), 그리고 Encyclopedia Galactica ($6,842).
Freysa는 또한 "Reflections // 2049"라는 NFT 컬렉션을 출시했으며, 각각 0.25 $ETH의 가격으로 책정되었습니다. Freysa 게임의 초기 참가자들은 $2,500 이상의 가치가 있는 무료 에어드롭을 받았습니다.
이 프로젝트는 이미 Marc Andreessen, Brian Armstrong, Jordi Alexander와 같은 주요 인물들의 관심을 끌었습니다. 커뮤니티 구성원들은 이미 Freysa의 보조금 기금에 $FAI로 $10M을 기부했으며, Justin Bram과 같은 개별 기여자들은 개발 지원을 위해 $500K를 투입했습니다.
Freysa의 미래:
혁신적인 AI 보안 실험으로 시작된 것이 훨씬 더 큰 무언가로 발전하고 있습니다. AI 의사결정 경계를 테스트하는 실험에서 시작하여, Freysa 팀은 진정으로 자율적인 AI 에이전트를 구축하기 위한 오픈소스 프레임워크를 개발하고 있는 것으로 보입니다.
Freysa의 진화에서 가장 최근의 발전은 "sovereign agents"에 대한 집중입니다 - 이는 대규모 인간-AI 협력을 위한 프레임워크입니다. 이것은 단순히 챗봇이나 자동화된 거래자를 만드는 것이 아닙니다; 진정한 자율성을 가지고 운영되면서도 그들의 행동에 대한 암호학적 증명을 유지할 수 있는 AI 시스템을 구축하는 것입니다. 수십억 달러의 자금을 관리하거나 복잡한 전략을 실행할 수 있는 AI 에이전트를 상상해보세요. 모든 것이 인간의 조작으로부터 증명 가능하게 독립적으로 유지되면서 말입니다.
앞으로 Freysa의 비전은 단순한 AI 실험을 훨씬 넘어선다. 이 프로젝트는 암호학적 증명을 활용하여 인간-AI 협력에서 진정한 무신뢰 보장을 가능하게 하고, 전통적인 기관 신뢰의 필요성을 제거하는 것을 목표로 한다. 이는 AI 거버넌스에 대한 우리의 사고방식을 혁신할 수 있다 - 중앙 권위에 의존하는 대신, 개인들이 참가자 간의 사회적 신뢰를 요구하지 않고도 주권적 AI 에이전트를 공동 거버넌스할 수 있게 될 것이다.




