시대를 역행하는 온프라미스 환경 구축을 하는 finvault 님의 블로그

  • 홈
  • 태그
  • 방명록

offlineLLM 1

[9탄] 폐쇄망에서 Ollama 오프라인 설치 완전 가이드 (GGUF + Modelfile 설정)

👈 이전 글: [8탄] 금융권 폐쇄망 온프레미스 AI 아키텍처: Ollama 도입부터 mTLS 보안 설계까지💡 우리의 험난했던 여정최근 개발 생태계는 ChatGPT, GitHub Copilot 등 AI 어시스턴트가 지배하고 있습니다.하지만 **'망 분리(Air-Gapped)'**가 적용된 금융권 온프레미스 환경의 개발자들에게는 남의 나라 이야기죠.터미널을 열고 당당하게 ollama pull deepseek-coder:6.7b를 입력해 봐야 돌아오는 건 잔인한 Connection Refused 에러뿐입니다. 그렇다면"어떻게 하면 인터넷 선이 물리적으로 뽑혀있는 서버에, 시스템 환경변수를 단 1바이트도 오염시키지 않고 나만의 AI 코딩 두뇌(FinAI)를 완벽히 격리하여 이식할 수 있을까?"이 사상이 ..

온프레미스 개발환경 2026.04.09
이전
1
다음
더보기
프로필사진

시대를 역행하는 온프라미스 환경 구축을 하는 finvault 님의 블로그

시대를 역행하는 온프라미스 환경 구축을 하는 finvault 님의 블로그 입니다.

  • 분류 전체보기 (10)
    • JBoss & Spring Boot (1)
    • 온프레미스 개발환경 (9)
    • 트러블슈팅 (0)
    • 개발환경 구축 (0)
    • 내자랑 (0)

Tag

GGUFDeployment, 폐쇄망AI, 보안USB반입, 금융권AI, GradleExclude, JDK21, 개발환경구축, ollamaoffline, 온프레미스, AirGappedAI, 의존성충돌, SpringBoot4, 트러블슈팅, 엔터프라이즈아키텍처, 망분리, JBoss EAP 8.1, 백엔드개발, DeepSeekCoder, jboss, offlineLLM,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

  • github finvaultlabs 주소

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2026/06   »
일 월 화 수 목 금 토
1 2 3 4 5 6
7 8 9 10 11 12 13
14 15 16 17 18 19 20
21 22 23 24 25 26 27
28 29 30

방문자수Total

  • Today :
  • Yesterday :

Copyright © AXZ Corp. All rights reserved.

티스토리툴바