caniscrape — это инструмент разведки для парсинга.
Он анализирует сайт и показывает, насколько сложно будет его скрапить — до того, как вы напишете хоть строчку кода.
#Python #WebScraping #Caniscrape #BotDetection #Playwright #DataEngineering #OpenSource #AIReconnaissance
https://github.com/ZA1815/caniscrape
Please open Telegram to view this post
VIEW IN TELEGRAM
GitHub
GitHub - ZA1815/caniscrape
Contribute to ZA1815/caniscrape development by creating an account on GitHub.
🔥4👍2⚡1
Fortress - это скрытный (stealth) веб-движок на базе Chromium, разработанный специально для защиты парсеров, скреперов и ИИ-агентов от блокировок анти-бот системами.
Обычные инструменты маскировки (вроде
puppeteer-extra-stealth) внедряют JavaScript-код поверх страницы, что современные детекторы легко палят через проверку .toString() или контекст встроенных фреймов (iframe). Fortress решает эту проблему радикально: он корректирует цифровой отпечаток (fingerprint) прямо внутри C++ кода Chromium (Blink, V8, BoringSSL). Для сайтов автоматизированный процесс выглядит как абсолютно чистая, легитимная и запущенная человеком копия Google Chrome.
[native code]. Защита инвариантна и не ломается ни в изолированных фреймах (iframes), ни в фоновых веб-воркерах (Web Workers).:9222 через протокол CDP (Chrome DevTools Protocol) — менять саму логику автоматизации и сценарии не нужно.В комплекте идет встроенный MCP-сервер (Model Context Protocol), предоставляющий ИИ-агентам в Claude Code, Cursor или Cline 29 готовых инструментов для незаметного веб-серфинга (
fetch_protected_page, extract_page, crawl_site и др.). Если агент натыкается на блокировку, он просто вызывает инструмент и забирает чистый контент страницы.Запуск через Python или Node.js (нативные бинарники для Linux x64 и Windows x64 скачиваются автоматически):
pip install tilion-fortress
npm install tilion-fortress
Или в любом окружении через Docker (запуск сырого CDP на порту 9222):
docker run --rm -p 9222:9222 tilion/fortress:latest
Простейший пример кода:
from tilion_fortress import Fortress
from playwright.sync_api import sync_playwright
with Fortress() as f:
with sync_playwright() as p:
browser = p.chromium.connect_over_cdp(f.cdp_url)
page = browser.new_page()
page.goto("https://bot.sannysoft.com")
page.screenshot(path="all-green.png")
⚠️ Важное правило: Никогда не используйте поверх Fortress библиотеки вроде
puppeteer-stealthили
undetected-chromedriver— они лишь оставят лишние JS-следы в рантайме и сломают встроенную низкоуровневую маскировку.
#Chromium #Stealth #WebScraping #Playwright #Puppeteer #Python #NodeJS #Cloudflare #Akamai #BotDetection #OpenSource #DevTools #MCP
https://github.com/tiliondev/fortress
Please open Telegram to view this post
VIEW IN TELEGRAM
GitHub
GitHub - tiliondev/fortress: Stealth Chromium engine that stops scrapers and browser agents from getting blocked, with one line…
Stealth Chromium engine that stops scrapers and browser agents from getting blocked, with one line of code change. - tiliondev/fortress
1👍2🔥2 2