Stable Diffusion 딸깍…

놀 구 있는 NPU

AI 이미지 생성에 관심이 전혀 없었는데 k8p 사면서 NPU 노는 꼴을 보니 뭔가 맘에 안 들어서 쓰는 방법을 모색해 보다가 혹시 AI 이미지 생성하면 쓰는 걸 볼 수 있지 않을까 싶어서 시작한 건데…

결론은 요 NPU 게이지 차는 건 끝내 볼 수 없었고 3일 내내 AI 이미지 생성만 주구장창 하고 있게 되었습니다.

생성에 14분 걸린 야짤...

처음에 뭣도 모르고 시작했을 때는 한 장 뽑는 데 14분 걸렸지만 보던 만화 캐릭터가 텍스트 몇 자 더 넣는다고 다른 만화가 화풍(?)처럼 그려지는 게 재미있어서 종일 찍어보다가… 더 빠르게 뽑아내는 방법은 없을까라는 생각으로 인터넷 검색을 해봄.

Stable Diffusion web UI 이 툴은 Nvidia 위주라 어느 분이 fork 해서 Stable Diffusion web UI for AMDGPU 라는 AMDGPU로도 빠르게 생성할 수 있는 걸 만드셨음.

amdgpu 버전에서는 directML 과 Zluda 두 가지 방식으로 amd 그래픽 가속을 쓸 수 있는데 directML은 별도의 프로그램 설치 없이 파라미터만 입력하면 알아서 다운로드해서 사용이 가능하기에 처음에는 directML을 썼는데…

생성에 8분 걸린 야짤...

14분 걸리던 게 8분대로 줄어드는 걸 보고 그때부터 이 옵션 저 옵션 바꿔 가면서 빠르게 생성하는 방법을 찾기 시작합니다.

생성에 4분 걸린 야짤...

최종적으로 4분대까지 줄이긴 했는데요. 이 옵션 상태에서 다른 이미지 생성을 하면 블루 스크린이 뜹니다. 블루 스크린 문제를 해결하려고 cmd arg 다 해본 거 같은데 안됩니다. 그래서 8분대를 쓰던지 블루 스크린 뜰 거 감안하고 4분대 옵션을 써야 하는데…

약 하루를 삽질하고 나서 별도의 프로그램을 설치하고 써야 하는 Zluda를 시도해 봤습니다.

생성에 2분 걸린 야짤...

2분대로 단축되는 기적(?)이 일어났습니다.

생성에 1분 걸린 야짤...

그리고 vram을 4기가에서 16기가로 올려줬더니 1분대로 시간이 단축되었습니다.

참고로 이 모든 건 8845hs cpu가 달린 k8p로 구동한 것이고 별도의 그래픽 카드가 없이 순수 내장 780m으로 돌린 퍼포먼스입니다.

이미지 생성은 최근 인기였던 던전 밥 애니메이션 Lora를 사용했고 저작권 문제 때문에(사실은 야짤이라) 블로그에 올리면 문제 생길 수 있다는 말 때문에 참고 프롬프트 링크를 남깁니다.

https://civitai.com/images/11963317

마지막으로 DirectML과 Zluda의 차이..

위 본문까지만 보면 Zluda가 무조건 좋은 거 같은데 아닙니다. 780m에서만 좋습니다.

제4650u 노트북에서는 DirectML과 Zluda 둘 다 소비 시간이 몇 초 차이 정도로 비슷합니다. 그리고 블루 스크린이 일어나지 않는 세팅에서 DirectML은 용량 큰 모델이나 이미지 큰 거 돌려도 오래는 걸려도 결과는 보여주는데 Zluda는 연산할 거 다 한담에 마지막에 메모리 부족 보여주면서 그림을 안 보여주는 상황이 가끔씩 펼쳐집니다. 그래서 저는 두 개의 배치파일을 만들어서 Zluda를 기본으로 쓰다가 안되는게 나오면 DirectML을 사용하고 있습니다.

암튼 조만간 780m에서 세팅하는 것을 정리해서 올려보겠습니다.


Comments

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다