Screenpipe (20K★, YC S26): Biến mọi thao tác trên máy tính thành bộ nhớ cho AI agent

Hướng dẫn cài đặt Screenpipe — công cụ ghi màn hình 24/7 chạy local, tích hợp Hermes Agent & Claude Code. Kèm benchmark PII thực tế: mô hình local đánh bại GPT-5.5 và Gemini về phát hiện dữ liệu nhạy cảm.

screenpipeai-agentprivacylocal-aiyc

Tuần này Screenpipe chính thức công bố tham gia Y Combinator S26. Đây là công cụ ghi lại mọi thứ bạn thấy, nghe, và làm trên máy tính — chạy hoàn toàn local, không gửi dữ liệu lên cloud — rồi biến chúng thành bộ nhớ tìm kiếm được cho AI agent.

Screenpipe là gì?

┌─────────────────────────────────────────┐
│  màn hình + âm thanh → lưu local → AI  │
└─────────────────────────────────────────┘

Nói đơn giản: Screenpipe là “Rewind.ai mã nguồn mở”. Nó capture màn hình và âm thanh máy tính của bạn 24/7, lưu mọi thứ trên ổ cứng local, rồi cho phép bạn:

  • Tìm kiếm bằng ngôn ngữ tự nhiên: “Hôm qua lúc 3h chiều tôi đọc bài báo nào về Kubernetes?”
  • Cho AI agent context về công việc của bạn: Agent biết bạn đang làm gì, đã làm gì để tự động hóa
  • Tự động tạo SOP: Quan sát bạn làm việc → tạo quy trình chuẩn

Quan trọng nhất: tất cả chạy local. Dữ liệu không rời khỏi máy bạn.

Thông số kỹ thuật thực tế

Thông sốGiá trị
CPU5-10% (event-driven, không record liên tục)
RAM0.5 - 3 GB
Ổ cứng~20 GB/tháng
Nền tảngmacOS (AS + Intel), Windows, Linux
GitHub20,418 ★ — 2,017 forks
LicenseSource-available, miễn phí cá nhân

Cách nó capture thông minh: thay vì quay video 60fps liên tục, Screenpipe chỉ chụp khi có sự kiện thực sự — đổi app, click chuột, gõ phím, cuộn trang. Mỗi lần chụp nó lấy cả accessibility tree (cấu trúc text mà OS đã biết) + screenshot. Nếu accessibility tree không có (VD: remote desktop, game), nó fallback sang OCR.

Cài đặt trong 2 phút

# Cài & chạy record
npx screenpipe record

# Setup (cấu hình ổ đĩa, chọn model, quyền truy cập)
npx screenpipe setup

Tích hợp với Claude Code / Cursor

# Thêm Screenpipe làm MCP server cho Claude
claude mcp add screenpipe -- npx -y screenpipe-mcp@latest

Sau đó hỏi Claude: “What did I see in the last 5 minutes?” hoặc “Summarize today’s conversations.”

Tích hợp với Hermes Agent

Screenpipe hỗ trợ sẵn Hermes Agent trong danh sách 100+ tích hợp. Hermes có thể dùng Screenpipe để:

  • Tra cứu context công việc của bạn trước khi trả lời
  • Tự động ghi nhận task bạn đang làm vào Linear / Notion
  • Tạo pipe (agent trigger) từ hoạt động thực tế

Benchmark PII: Local model đánh bại GPT-5.5

Đây là phần đáng chú ý nhất. Nhóm Screenpipe công bố benchmark ScreenLeak — đo khả năng phát hiện và xóa dữ liệu nhạy cảm (PII) từ screen recording. Tất cả benchmark chạy trên browser, code public.

Text PII (API key, password, email, connection string…)

ModelTỉ lệ phát hiện
Gemini 3.1 Pro91.0%
GPT-5.590.7%
Claude Opus 4.787.8%
Screenpipe local86.7%
Google Cloud DLP37.7%
Microsoft Presidio35.4%

Image PII (tên, địa chỉ, CCCD trong ảnh chụp màn hình)

ModelTỉ lệ phát hiện (IoU ≥ 0.30)
Screenpipe local98.9%
Gemini 3.1 Pro4.2%
GPT-5.53.2%
Google Cloud DLP2.6%
Claude Opus 4.72.1%
Microsoft Presidio0.5%

Điểm đáng chú ý: model local 278MB chạy ở ~10ms cho text, ~120ms cho image — nhanh hơn nhiều so với gọi API cloud. Và với image PII, tỉ lệ 98.9% vs 4.2% của Gemini là khoảng cách khổng lồ.

Lý do: model của Screenpipe được huấn luyện riêng cho screen telemetry data, trong khi GPT/Gemini được huấn luyện tổng quát. Bài toán càng chuyên biệt, model nhỏ chuyên dụng càng có lợi thế.

5 use case thực tế

1. Developer dùng AI coding agent

Bạn đang dùng Claude Code hoặc Cursor. Thay vì copy-paste context mỗi lần, agent tự biết bạn đang mở file nào, terminal nào, đọc tài liệu gì trong 30 phút qua.

2. Tự động điền timesheet / Linear

Screenpipe biết bạn vừa dành 2 giờ sửa bug #342. Tạo một “pipe” (agent trigger) để tự động log vào Linear: “Louis spent 2h on #342 — fixed null pointer in auth flow.”

3. Họp hành không cần note

Microphone capture + Whisper local (Large-V3-Turbo) transcribe real-time. Speaker diarization phân biệt được ai đang nói. Sau họp: “Tóm tắt quyết định trong meeting 10h sáng nay.”

4. Bảo mật dữ liệu nhạy cảm

Screen sharing trong meeting? Screenpipe tự động detect và redact PII trước khi nó xuất hiện trên màn hình. Model local vừa nhanh vừa không gửi dữ liệu ra ngoài.

5. Người bị ADHD / hay quên

“Tôi vừa đọc bài báo đó ở đâu nhỉ?” → “search: article about Kubernetes pod security 3pm yesterday” → tìm ra ngay.

AIFirst Take

Nên dùng nếu:

  • Bạn đã dùng AI agent hàng ngày (Claude Code, Cursor, Hermes) — context tự động là game changer
  • Bạn làm việc với dữ liệu nhạy cảm cần PII redaction local
  • Bạn muốn có “bộ nhớ thứ hai” có thể tìm kiếm được
  • Bạn họp hành nhiều, cần transcribe + tóm tắt tự động
  • Bạn sẵn sàng hy sinh ~20GB ổ cứng/tháng

Chưa nên nếu:

  • Máy bạn dưới 8GB RAM — screen recording + Whisper transcription cần tài nguyên
  • Bạn lo ngại về privacy dù là local — screen recording 24/7 là quyết định lớn về mặt tâm lý
  • Bạn dùng Linux (chưa có binary chính thức, phải build từ source)
  • Bạn cần dùng cho team/enterprise — license thương mại bắt buộc sau 7 ngày eval

Chi phí

Cá nhân: Miễn phí vĩnh viễn. Source-available, có thể audit code.

Doanh nghiệp: Miễn phí 7 ngày đánh giá → cần mua license thương mại (chưa công bố giá công khai, liên hệ qua screenpi.pe/team).

Phần cứng khuyến nghị: MacBook M1 16GB trở lên, hoặc PC Windows/Linux 16GB+ RAM. Ổ cứng trống ~20GB/tháng.


Nguồn: