← 목록으로

효율과 안전의 균형 위에 세운 스마트폰 비서 설계 원칙 ― 스마트폰은 생산성 엔진이 아니라 개인 주권의 관문이다 | BuntGames

2026-02-28 원문 보기 ⇗

효율과 안전의 균형 위에 세운 스마트폰 비서 설계 원칙 ― 스마트폰은 생산성 엔진이 아니라 개인 주권의 관문이다

1. 문제 정의

스마트폰은 더 이상 통신 기기가 아니다.

  • 금융 승인

  • 계정 보안

  • 통화 및 메시지

  • 위치 및 생체 인증

  • 업무와 사생활의 경계

이 모든 것이 한 장치에 집중되어 있다.

PC 기반 AI 에이전트가 생산성(Productivity)에 초점을 둔다면,
스마트폰 비서는 본질적으로 방어(Defense)와 필터링(Filtering)이 중심이 되어야 한다.

스마트폰 AI의 목적은 자동 실행이 아니라:

“사용자가 오직 결정만 내릴 수 있도록 정보를 압축하는 것”

2. 핵심 철학

기존 비서는 권한을 가진다.
Decision Gate는 권한을 요청한다.

  • 비서는 실행하지 않는다.

  • 비서는 판단하지 않는다.

  • 비서는 증류한다.

“The assistant must request power, never own it.”

3. 위협 모델

스마트폰 환경의 위험은 세 가지로 수렴된다:

  1. 금융 유도 및 피싱

  2. 계정 권한 상승

  3. 접근성 및 UI 조작 악용

이 모든 위협의 공통점은:

행동 대리권이 곧 통제권이라는 점이다.

따라서 스마트폰 AI는 자동화 도구가 아니라
행동 승인 게이트가 되어야 한다.

4. Architecture Overview

Layered Decision Gate Model

5. Layer Explanation

L1 — Local Distiller

L1은 단순 수집기가 아니다.
L1은 데이터 증류기(Distiller)다.

  • PII는 외부로 전달하지 않는다.

  • 원문은 L1에만 존재한다.

  • 상위 레이어로는 추상화된 특징(feature)만 전달한다.

Distillation Principles

  • 전화번호 → Social Distance 기반 신뢰 점수

  • 기관 주장 → Claim Tag

  • 링크 존재 여부 → Boolean Feature

  • 금융 키워드 → Intent Normalization

핵심은:

맥락은 보존하고, 데이터는 파쇄한다.

Social Graph Distance

신뢰는 개인정보가 아니라 관계성 특징으로 정의한다.

  • Direct Contact → High Trust

  • Indirect Relation → Medium Trust

  • Unknown Entity → Low Trust

이 값은 L2의 Risk Engine에 전달되는 핵심 입력값이다.

L2 — Policy OS

L2는 시스템의 심장이다.

구성 요소:

  • Risk Score Engine

  • Context Router

  • Interrupt Manager

  • Action Planner

L2는 실행하지 않는다.
L2는 “지금 방해할 것인가?”를 판단한다.

Interrupt Manager

비서는 항상 묻는다:

“Should I interrupt the user right now?”

판단 기준:

  • Screen state

  • Calendar context

  • Activity recognition

  • DND mode

마이크 기반 감지는 MVP에서 제외한다.

Defer = Active Learning UX

보류 버튼은 단순 지연이 아니다.

사용자가 반복적으로 특정 조건에서 보류를 선택하면,
비서는 해당 조건을 정책으로 제안한다.

사용자가 승인해야만 정책이 생성된다.

L3 — External Reasoner (Optional)

L3는 복잡한 추론을 담당한다.

하지만 원칙은 명확하다:

  • Raw PII는 전달하지 않는다.

  • L1에서 증류된 패킷만 전달한다.

Approval UI — 3 Second Rule

인지 설계의 핵심은 단순성이다.

  • 색상 단계 (Green / Yellow / Red)

  • 이유 태그 최대 2개

  • 1줄 요약

  • [Allow] [Deny] [Defer]

복잡한 대화는 필요 없다.

6. Audit Blackbox

Audit는 로그가 아니다.
Audit는 신뢰의 증거다.

기록 항목:

  • Risk Score

  • Reason Tags

  • User Decision

  • Outcome

사용자의 판단 패턴은 정책 개선의 근거가 된다.

7. Financial Air-Gap Principle

금융은 자동화 대상이 아니다.

  • 비서는 실행하지 않는다.

  • 승인 요청만 가능하다.

  • 생체 인증 + 사용자 탭이 필수다.

  • 금융 영역은 격리 존이다.

8. Product Evolution Path

1단계 — Guard
기본 스팸 필터 및 위험 탐지

2단계 — Smart Gate
온디바이스 증류 및 상황 기반 승인 UX

3단계 — Jarvis Suit
격리 장치와 브릿지를 통한 물리적 보안 강화

9. 최종 정의

Decision Gate는 인공지능이 아니다.

그것은:

개인 주권을 보호하는 의사결정 압축 엔진이다.

자비스를 슈트에 넣는다는 것은
지능을 넣는 것이 아니다.

그것은

통제권을 사용자에게 되돌려 놓는 것이다.

patreon.com

Design Principles for a Smartphone Assistant Built on the Balance Between Efficiency and Security
— A Smartphone Is Not a Productivity Engine, but a Gateway to Personal Sovereignty

1. Problem Statement

A smartphone is no longer just a communication device.

It is:

  • A financial approval terminal

  • An identity authentication device

  • A personal communication hub

  • A location tracker

  • A biometric access key

  • A boundary between work and private life

While PC-based AI agents optimize for productivity,
a smartphone assistant must prioritize defense and filtering.

The purpose of smartphone AI is not automation.

It is:

To compress incoming information so that the user only needs to make decisions.

2. Core Philosophy

Traditional assistants accumulate power.
Decision Gate requests permission.

  • It does not execute automatically.

  • It does not override judgment.

  • It distills information.

“The assistant must request power, never own it.”

3. Threat Model

Smartphone-specific risks converge into three categories:

  1. Financial phishing and payment manipulation

  2. Account authority escalation

  3. Accessibility and UI automation abuse

The common denominator:

Delegated action equals delegated control.

Therefore, smartphone AI must function as an approval gateway, not an execution engine.

4. Architecture Overview

Layered Decision Gate Model

5. Layer Explanation

L1 — Local Distiller

L1 is not a collector.
It is a data distiller.

  • Raw PII never leaves L1.

  • Original content remains strictly local.

  • Only abstracted features are passed upward.

Distillation Principles

  • Phone number → Trust score via Social Distance

  • Claimed institution → Claim tag

  • External link → Boolean feature

  • Financial keyword → Intent normalization

The core rule:

Preserve context. Destroy sensitive data.

Social Graph Distance

Trust is defined relationally, not personally.

  • Direct Contact → High Trust

  • Indirect Relation → Medium Trust

  • Unknown Entity → Low Trust

Trust is treated as a feature, not as personal data.

L2 — Policy OS

L2 is the system’s decision core.

Components include:

  • Risk Score Engine

  • Context Router

  • Interrupt Manager

  • Action Planner

L2 does not execute actions.
It determines whether interruption is appropriate.

Interrupt Manager

The assistant always asks:

“Should I interrupt the user right now?”

Evaluation inputs include:

  • Screen state

  • Calendar context

  • Activity recognition

  • Do Not Disturb mode

Microphone-based inference is excluded from MVP due to privacy and energy concerns.

Defer as Active Learning UX

The “Defer” button is not a delay mechanism.
It is a user-driven policy trainer.

If a user repeatedly defers under certain conditions,
the system proposes a rule:

“When driving + financial request → Auto Defer?”

Rules are only activated after user approval.

L3 — External Reasoner (Optional)

L3 handles complex reasoning:

  • Long-form summaries

  • Translation

  • Advanced inference

However:

  • Raw PII is never transmitted.

  • Only distilled packets are shared externally.

Approval UI — The 3-Second Rule

Cognitive simplicity is critical.

Each alert includes:

  • Color-coded risk level (Green / Yellow / Red)

  • Maximum two reason tags

  • One-line summary

  • Action buttons: [Allow] [Deny] [Defer]

Conversation is unnecessary.
Clarity is everything.

6. Audit Blackbox

Audit is not logging.
It is visual proof of trustworthiness.

Recorded elements:

  • Risk score

  • Reason tags

  • User decision

  • Outcome

User behavior gradually refines policy.

7. Financial Air-Gap Principle

Finance is not an automation target.

  • The assistant cannot execute financial actions.

  • It may only request approval.

  • Biometric authentication + explicit user tap is mandatory.

  • Financial domains are isolated zones.

8. Product Evolution Path

Phase 1 — Guard
Basic spam filtering and risk detection.

Phase 2 — Smart Gate
On-device distillation and context-aware approval UI.

Phase 3 — Jarvis Suit
Isolated device architecture with bridge communication.

9. Final Definition

Decision Gate is not artificial intelligence.

It is:

A decision compression engine protecting personal sovereignty.

Putting Jarvis inside the suit
is not about inserting intelligence.

It is about:

Bringing control closer to the human body.

FROM BUNTGAMES.COM