semantica-agi/semantica
AI 에이전트가 왜 그런 결정을 내렸는지 그래프로 증명하는 오픈소스 인프라
Semantica는 기업 데이터를 모아 지식 그래프로 만들고, AI 에이전트의 모든 결정을 추적 가능한 기록으로 남기는 오픈소스 파이썬 프레임워크다. 벡터DB 기반 검색이 '비슷한 것'만 찾아준다면, 이 도구는 '왜 연결됐는지, 무슨 근거인지'까지 그래프 탐색으로 답한다. 금융, 의료, 법률처럼 규제가 엄격해 결정 근거를 감사(audit)받아야 하는 분야를 겨냥했다.
무엇을 하는 레포인가
- 여러 소스(파일, 웹, 데이터베이스, Databricks, Snowflake 등)에서 데이터를 수집해 지식 그래프(knowledge graph)로 만들고, 엔티티 추출과 중복 제거, 상충되는 정보 감지까지 자동 처리한다
- AI 에이전트의 모든 결정을 record_decision() 함수로 그래프 노드에 기록하고, 인과관계로 연결해 trace_decision_chain() 같은 함수로 결정의 전체 이력을 추적할 수 있게 했다
- LLM 없이도 동작하는 결정론적(deterministic) 추론 엔진(Rete, Datalog, SPARQL 등)을 갖춰 추론 과정이 블랙박스가 아니라 규칙 기반으로 설명 가능하다
- W3C PROV-O라는 표준 형식으로 모든 사실에 출처를 남기고, 규제 기관에 제출 가능한 JSON, CSV, RDF 형태로 감사 기록을 내보낼 수 있다
- 자체 벤치마크에서 11만 8천 개 노드 그래프 기준 노드 검색 속도가 기존 대비 6000배 빨라졌다고 보고했다
왜 중요한가
AI 에이전트가 실제 업무 결정(대출 승인, 처방 검토 등)을 내리는 시대에 '그 결정이 왜 나왔는지' 설명하지 못하면 규제 리스크가 된다. 이 저장소는 LLM의 내부 추론 자체를 설명하진 않지만, LLM 외부에서 입력된 데이터와 결정 결과, 그 근거를 추적 가능하게 만드는 인프라를 제공한다.
이 레포의 용어
- 지식 그래프(Knowledge Graph) · 사물과 개념, 그들 사이의 관계를 노드와 엣지로 표현한 데이터 구조
- W3C PROV-O · 데이터의 출처와 생성 과정을 기록하기 위한 웹 표준 규격
- SHACL · 그래프 데이터가 정해진 규칙을 만족하는지 검증하는 W3C 표준
- RDF/SPARQL · 데이터를 트리플(주어-서술어-목적어) 형태로 저장하고 질의하는 표준 방식
- Rete 네트워크 · 많은 규칙을 빠르게 매칭시키기 위한 규칙 기반 추론 알고리즘
레포 원문 소개 (영문)
Graph-Native Infrastructure for Context and Accountable AI Systems
GitHub에서 보기주목받는 레포
- cathrynlavery/diagram-designAI 코딩 도구가 그리는 다이어그램을 흔한 둥근 사각형 대신 잡지 느낌 편집 디자인으로 바꿔주는 스킬
- public-apis/public-apis세상의 모든 무료 API를 한곳에 모아둔 목록 저장소
- cactus-compute/needle14메가바이트짜리 AI 모델로 스마트폰과 웨어러블에서 인터넷 없이 도구 호출하기
- unslothai/unsloth코딩 없이 내 컴퓨터에서 AI 모델을 돌리고 학습시키는 데스크톱 앱
- macro-inc/macro이메일, 채팅, 문서, 업무관리, CRM을 하나로 묶고 AI가 팀 전체 기억을 공유하는 업무 플랫폼
- harry0703/MoneyPrinterTurbo주제나 키워드 하나만 입력하면 대본, 영상 소재, 자막, 배경음악까지 자동으로 붙여 짧은 영상 하나를 완성해주는 오픈소스 도구
- basecamp/omarchyDHH가 만든, 미리 취향껏 세팅된 리눅스 배포판
- mattpocock/skillsAI 코딩 에이전트가 삼천포로 빠지지 않게 잡아주는 재사용 가능한 '스킬' 모음집