Stable Diffusion 딸깍…

AI 이미지 생성에 관심이 전혀 없었는데 k8p 사면서 NPU 노는 꼴을 보니 뭔가 맘에 안 들어서 쓰는 방법을 모색해 보다가 혹시 AI 이미지 생성하면 쓰는 걸 볼 수 있지 않을까 싶어서 시작한 건데…

결론은 요 NPU 게이지 차는 건 끝내 볼 수 없었고 3일 내내 AI 이미지 생성만 주구장창 하고 있게 되었습니다.

처음에 뭣도 모르고 시작했을 때는 한 장 뽑는 데 14분 걸렸지만 보던 만화 캐릭터가 텍스트 몇 자 더 넣는다고 다른 만화가 화풍(?)처럼 그려지는 게 재미있어서 종일 찍어보다가… 더 빠르게 뽑아내는 방법은 없을까라는 생각으로 인터넷 검색을 해봄.

Stable Diffusion web UI 이 툴은 Nvidia 위주라 어느 분이 fork 해서 Stable Diffusion web UI for AMDGPU 라는 AMDGPU로도 빠르게 생성할 수 있는 걸 만드셨음.

amdgpu 버전에서는 directML 과 Zluda 두 가지 방식으로 amd 그래픽 가속을 쓸 수 있는데 directML은 별도의 프로그램 설치 없이 파라미터만 입력하면 알아서 다운로드해서 사용이 가능하기에 처음에는 directML을 썼는데…

14분 걸리던 게 8분대로 줄어드는 걸 보고 그때부터 이 옵션 저 옵션 바꿔 가면서 빠르게 생성하는 방법을 찾기 시작합니다.

최종적으로 4분대까지 줄이긴 했는데요. 이 옵션 상태에서 다른 이미지 생성을 하면 블루 스크린이 뜹니다. 블루 스크린 문제를 해결하려고 cmd arg 다 해본 거 같은데 안됩니다. 그래서 8분대를 쓰던지 블루 스크린 뜰 거 감안하고 4분대 옵션을 써야 하는데…

약 하루를 삽질하고 나서 별도의 프로그램을 설치하고 써야 하는 Zluda를 시도해 봤습니다.

2분대로 단축되는 기적(?)이 일어났습니다.

그리고 vram을 4기가에서 16기가로 올려줬더니 1분대로 시간이 단축되었습니다.

참고로 이 모든 건 8845hs cpu가 달린 k8p로 구동한 것이고 별도의 그래픽 카드가 없이 순수 내장 780m으로 돌린 퍼포먼스입니다.

이미지 생성은 최근 인기였던 던전 밥 애니메이션 Lora를 사용했고 저작권 문제 때문에(사실은 야짤이라) 블로그에 올리면 문제 생길 수 있다는 말 때문에 참고 프롬프트 링크를 남깁니다.

https://civitai.com/images/11963317

마지막으로 DirectML과 Zluda의 차이..

위 본문까지만 보면 Zluda가 무조건 좋은 거 같은데 아닙니다. 780m에서만 좋습니다.

제4650u 노트북에서는 DirectML과 Zluda 둘 다 소비 시간이 몇 초 차이 정도로 비슷합니다. 그리고 블루 스크린이 일어나지 않는 세팅에서 DirectML은 용량 큰 모델이나 이미지 큰 거 돌려도 오래는 걸려도 결과는 보여주는데 Zluda는 연산할 거 다 한담에 마지막에 메모리 부족 보여주면서 그림을 안 보여주는 상황이 가끔씩 펼쳐집니다. 그래서 저는 두 개의 배치파일을 만들어서 Zluda를 기본으로 쓰다가 안되는게 나오면 DirectML을 사용하고 있습니다.

암튼 조만간 780m에서 세팅하는 것을 정리해서 올려보겠습니다.


Comments

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다