내일을 위한 오늘의 기록 내일을 위한 오늘의 기록

7월 중 RB5009UG+S+IN 이 도착했습니다. 기본 스크립트가 내장되어 있어서 기본적인 네트워크는 어렵지 않게 설정을 마쳤습니다. 이후 활용 방법을 찾아가면서 이것저것 설정하는 중인데, 뭐 하나 설정하려면 관리용 PC에 원격해서 조작해야 했습니다. 이 부분이 생각보다 귀찮고 오류 가능성이 높아 다른 방법을 찾아봐야 했습니다.Wireguard VPN이 기본 내장되어 있기 때문에 VPN을 설정하면 되는 부분이지만, VPN으로 접속하게 되면 홈서버의 대역폭을 쓰게 되는 부분이라서 고민이 많았습니다. 또한 좀 더 기기를 추가/해제하는 것이 쉽고 간편한 방법이 필요했습니다.그래서 찾아본 결과 ARM, ARM64 기반의 미크로틱 라우터에 ZeroTier 패키지가 정식으로 배포되고 있는 것을 확인했습니다. 공..

https://expbox77.tistory.com/4과거 Mikrotik RB2011U를 기글 하드웨어에서 나눔받은 적이 있다. 그 이후로 조금씩 설정하는 방법을 익히고 써보다가 결국에는 구형 제품의 한계를 느끼고 거의 찍먹 수준으로 그쳤다. 그리고 한 반년이 넘게 지났다. 서버쪽에 OPNsense를 사용하고 있었는데, 구형 X86 기반에 소프트웨어 방화벽이라서 전기도 많이 먹고 발열도 많아서 Mikrotik 제품을 구입하기로 결정했다. 초기 도입에 돈이 많이 들기 때문에 라우터는 고장이 잘 나지 않는다는 믿음을 가지고 중고로 이래저래 찾아봤지만 구할 수 없었다. 결국 새 제품을 구입하게 되었는데 모델 선정부터 구입 방법까지 정말 하나부터 열가지 정보를 서버포럼의 klayf님께서 거의 떠먹여주셨기에 구..

요즘 새로운 브라우저를 탐색하는 중인데 확장 프로그램을 찾다보니 Image Search Options 외 이미지 검색 관련한 확장 프로그램 중 일부 확장 프로그램에서는 지금은 사용하지 않는 URL을 사용해서 제대로 이미지 검색이 안되는 경우가 있었습니다. 따라서 제가 사용하는 URL을 좀 정리해봤습니다. 나중에 추가할 수도 있긴한데 이 정도만해도 찾을만한건 거진 다 찾기 때문에 더 추가할 일이 있을까 싶습니다.  20250309 최초 작성 SauceNAO Searchhttps://saucenao.com/search.php?db=999&url=IQDB Searchhttps://iqdb.org/?url=TinEye Search # 비활성화https://tineye.com/search/?url=Google S..

맥북에서 로컬 LLM을 돌리는 프로그램으로 Ollama를 거쳐 LMStudio로 잘 사용하다가 나중에 GPU 서버에서 서빙하는 걸 연습도 해볼 겸 vLLM으로 알아보고 있었습니다. 하지만 맥의 GPU(Metal - MPS)를 사용할 수 없다는 결론이 나와서 llama.cpp로 알아보게 되었습니다. 제가 컨테이너 사랑꾼(...)이라 llama.cpp 또한 컨테이너로 실행하려고 했고 도커 이미지가 존재하기에 사용할 수 있었지만, 애플의 정책상 VM에서는 GPU 가속이 무슨 짓을 해도 안된다는 글을 발견해고 호스트에 설치하기로 생각했습니다. 원래는 가상 환경을 만들고 llama.cpp를 빌드해야 하지만, 따로 빌드할 필요 없이, brew로 빌드되어 있는 바이너리 파일을 간편하게 설치할 수 있었습니다.0. 시스..

오라클 클라우드 Tree Tier에서는 생각보다 많은 컴퓨팅 자원을 무료로 사용할 수 있습니다. AMD x86 시스템에서는 1 CPU + 1GB의 인스턴스 2개, Ampere ARM 시스템에서는 4 CPU + 24GB의 인스턴스 1개까지 만들 수 있습니다. 원하면 전부 가능하나 통합 200기가의 용량은 그리 넉넉하지는 않지만 원한다면 쪼개어 3개의 인스턴스를 모두 만들 수 있습니다. 자세한 건 오라클 클라우드의 상시 무료 사용을 확인해 보면 됩니다. https://www.oracle.com/kr/cloud/free/#always-free 저의 경우에는 Ampere ARM 시스템에 모두 몰아주어 4 CPU + 24GB + 200GB 인스턴스 1개를 운용하고 있습니다. 항상 인터넷과 연결되어 있는 클라우드 ..

한 3일간 삽질한 것 같다.. 해결하고 나니 왜 이 방법을 먼저 시도하지 않았던 건지 스스로가 한심해진다. 설정 자체는 생각보다 간단해서 놀랍기도 하고 김새는 느낌이기도 하고.. 복잡 미묘하다.여하튼 대부분의 Cloudflare Tunnel + NPM의 가이드 글과 ChatGPT가 찾아내서 정리해 주는 글의 경우, Cloudflare Tunnel을 서비스에 직접 연결하는 느낌이 강했다. 그런데 직접 연결할 거면 NPM은 왜 쓰나? Cloudflare Tunnel이 알아서 리버스 프록시까지 해주는데; 자원 낭비라고 볼 수 있다. 근데 그걸 Cloudflare Tunnel과 NPM을 같이 쓰는 가이드라고 글을 적어놨으니 아무리 봐도 이해를 못 했다.  그래서 계속 의심했다. 그리고 원하는 답이 나올 때까지 ..

맥북에서 LLM을 구동시키기 위한 여러 가지 프로그램이 있지만 모델 다운로드부터 멀티 모달 모델까지 한 번에 올인원으로 사용 가능한 부분이 마음에 들어 Ollama를 사용했습니다. Open Webui 같은 API를 사용 가능한 프로그램이 거진 필수인 것까지는 괜찮은데 제대로 사용하려면 터미널에서 사용해야 하고 로그를 확인하는 것이 불편했으며 LLM 모델 관리가 잘 안 돼서 요즘은 LM Studio를 주로 사용하고 있습니다. LM Studio 자체로도 훌륭한 프로그램이지만, 좀 더 많은 활용을 위하여 Open Webui를 사용해 볼 겁니다.https://lmstudio.ai/docs/api/endpoints/openai위 링크를 확인해 보면 LM Studio API는 OpenAI API와 호환되게끔 만들어..

오라클 클라우드를 사용하면서 Nginx Proxy Manager(NPM)를 잘 사용하고 있습니다. 홈랩 쪽은 OPNsense에서 HAProxy를 리버스 프록시로 사용하지만, 오라클 클라우드는 ARM에 CLI로 conf 파일을 설정해야 하는 게 좀 귀찮아서 NPM을 Docker로 설치해서 사용하고 있습니다. 올리고 싶은 서비스의 docker-compose.yaml 파일에 대충 네트워크만 맞춰주고 컨테이너 올려주고 웹에서 "딸깍" 몇 번만 하면 그리 어렵지 않게 설정할 수 있어 많은 사람들이 사용하는 리버스 프록시 프로그램입니다.  NPM에서는 자동으로 인증서를 갱신하기에 딱히 신경 쓸 필요는 없습니다. 그런데 얼마 전에 Let's Encrypt 측에서 인증서가 곧 만료된다는 메일이 왔는데, 왜 이런 메일이..