KI

Ich habe n8n als neues KI-Spielzeug für mich entdeckt. n8n ist eine Open-Source-Plattform zur Automatisierung von Workflows. Die Aufmachung ist so ähnlich wie bei Node Red. Man stellt Workflows aus einzelnen Nodes zusammen, die jeweils eine Teilaufgabe erledigen. Damit kann man z.B. KI Agenten bauen.

Ich habe mich daran versucht, und bin erstmal kläglich gescheitert. Mein Chatbot sollte einfach nur Wikipedia als Tool verwenden, und auf Anfragen wie “Suche in der Wikipedia nach Jever” eine entsprechende Antwort liefern. Nur hat der Bot sich einfach geweigert überhaupt Anfragen an Wikipedia zu stellen.

Künstliche Intelligenz ist in aller Munde, alle springen auf den KI-Zug auf und überbieten sich mit den tollsten Large Language Models. Alle in dem Medien gehypten Sprachmodelle nutzen die Herstellercloud und benötigen ein entsprechendes Account. Will man etwas mehr machen, benötigt man meistens sogar ein kostenpflichtiges Abo. Die Frage ist, kann man sowas auch zuhause betreiben? Nun, ich habe natürlich kein Rechenzentrum im Keller, und auch meine Resourcen was Rechenpower angeht sind eher gering.

Trotzdem starte ich einen Versuch ein LLM zuhause zum Funktionieren zu bringen. Bei meiner Lösung versuche ich wieder auf Docker-Container zu setzen. Mal schauen was geht…