Messages

{"message_id":102202,"from":{"id":339745568,"is_bot":false,"first_name":"Holger","last_name":"Quick","username":"hquick","language_code":"de"},"date":1716722075,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"Aber die Ergebnisse sind auch sehr inkonsistent"}

{"message_id":102201,"from":{"id":339745568,"is_bot":false,"first_name":"Holger","last_name":"Quick","username":"hquick","language_code":"de"},"date":1716722037,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"Das ist eine gute Frage. Ich habe keine Ahnung was er als default nimmt wenn man gar nix angibt"}

{"message_id":102200,"from":{"id":10360828,"is_bot":false,"first_name":"Thomas","last_name":"Bayen","username":"tbayen","language_code":"de"},"date":1716721369,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"Hast Du für das Ramalamadingdong oben das kleine, mittlere oder große Sprachmodell genommen?"}

{"message_id":102199,"from":{"id":10360828,"is_bot":false,"first_name":"Thomas","last_name":"Bayen","username":"tbayen","language_code":"de"},"date":1716721329,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"Die Software ist Open Source, aber das Sprachmodell wird wohl erst runtergeladen. Mal davon abgesehen, das das ja auch eine Black Box ist, bei der man ja auch nicht von \"Quelltext\" sprechen kann."}

{"message_id":102198,"from":{"id":339745568,"is_bot":false,"first_name":"Holger","last_name":"Quick","username":"hquick","language_code":"de"},"date":1716720380,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"https://github.com/openai/whisper","entities":[{"type":"url","offset":0,"length":33}]}

{"message_id":102197,"from":{"id":339745568,"is_bot":false,"first_name":"Holger","last_name":"Quick","username":"hquick","language_code":"de"},"date":1716720379,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"Nö ist OpenSource"}

{"message_id":102196,"from":{"id":339745568,"is_bot":false,"first_name":"Holger","last_name":"Quick","username":"hquick","language_code":"de"},"date":1716720333,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"Aber das bringt ja nix wenn die nicht unterstützt wird"}

{"message_id":102195,"from":{"id":339745568,"is_bot":false,"first_name":"Holger","last_name":"Quick","username":"hquick","language_code":"de"},"date":1716720324,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"JA der Mac hat ne ordentliche GPU zumindest die neuen Mx"}

{"message_id":102194,"from":{"id":10360828,"is_bot":false,"first_name":"Thomas","last_name":"Bayen","username":"tbayen","language_code":"de"},"date":1716720073,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"Ich muss das mal testen, wenn ich Zeit finde. \n\nWhisper ist kostenlos, aber nicht Open Source, oder?"}

{"message_id":102193,"from":{"id":10360828,"is_bot":false,"first_name":"Thomas","last_name":"Bayen","username":"tbayen","language_code":"de"},"date":1716720007,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"Aber der Mac hat doch bestimmt eine ordentliche GPU, oder nicht?"}

{"message_id":102192,"from":{"id":10360828,"is_bot":false,"first_name":"Thomas","last_name":"Bayen","username":"tbayen","language_code":"de"},"date":1716719976,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"Hm. Jetzt, wo ich das so geschrieben habe... Auf meinem Schreibtisch steht auch nur so eine Box mit einer N97 CPU. Die kann das bestimmt auch nicht. Alles, was Fancy ist, läuft bei mir auch am Ende auf irgendeinem Server irgendwo im Keller. 😂"}

{"message_id":102191,"from":{"id":339745568,"is_bot":false,"first_name":"Holger","last_name":"Quick","username":"hquick","language_code":"de"},"date":1716719893,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"Da will ich nicht in meine dunkle Ecke um den anderen Rechner anzuwerfen"}

{"message_id":102190,"from":{"id":339745568,"is_bot":false,"first_name":"Holger","last_name":"Quick","username":"hquick","language_code":"de"},"date":1716719882,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"Hab theoretisch noch einen Windows Desktop mit ner 3090 aber ich sitze gerade im Garten mit dem Mac und lass mir die Sonne auf den Bauch scheinen 😉"}

{"message_id":102189,"from":{"id":339745568,"is_bot":false,"first_name":"Holger","last_name":"Quick","username":"hquick","language_code":"de"},"date":1716719831,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"Wieder ein komplett anderes Thema … Es gibt Modelle die damit klarkommen und welche die nicht"}

{"message_id":102188,"from":{"id":339745568,"is_bot":false,"first_name":"Holger","last_name":"Quick","username":"hquick","language_code":"de"},"date":1716719813,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"Ja ich habe ein MacBook Pro mit M1"}

{"message_id":102187,"from":{"id":10360828,"is_bot":false,"first_name":"Thomas","last_name":"Bayen","username":"tbayen","language_code":"de"},"date":1716719659,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"Du hast doch sicher auch einen Desktop Rechner vor der Nase stehen, oder? Aber Du hast das auf einer anderen Maschine laufen lassen?"}

{"message_id":102186,"from":{"id":339745568,"is_bot":false,"first_name":"Holger","last_name":"Quick","username":"hquick","language_code":"de"},"date":1716719604,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"Ja bei mir sind das ja nur so „kleine“ Schachteln die keinen GPU Support haben. Sind halt nur Server die normalerweise nix mit AI machen. Die einzige Ausnahme ist bei mir ne Objekterkennung für die Kameras und dafür habe ich die externe TPU. Aber die kann dieses Model von Whisper leider nicht ausführen"}

{"message_id":102185,"from":{"id":10360828,"is_bot":false,"first_name":"Thomas","last_name":"Bayen","username":"tbayen","language_code":"de"},"date":1716719440,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"Sind denn nicht heutzutage in jedem Desktop-Prozessor so GPU- Einheiten drin? Ich lese das immer in den Spezifikationen, aber ich habe mich noch nie damit beschäftigt, wofür man die wirklich benutzt und was die dann taugen."}

{"message_id":102184,"from":{"id":10360828,"is_bot":false,"first_name":"Thomas","last_name":"Bayen","username":"tbayen","language_code":"de"},"date":1716719269,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"Ah, das war mir nicht klar. Mit sowas habe ich noch nicht herumgespielt."}

{"message_id":102183,"from":{"id":339745568,"is_bot":false,"first_name":"Holger","last_name":"Quick","username":"hquick","language_code":"de"},"date":1716719204,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"Daher muss die lib das auf der CPU rechnen was extrem schlecht funktioniert"}

{"message_id":102182,"from":{"id":339745568,"is_bot":false,"first_name":"Holger","last_name":"Quick","username":"hquick","language_code":"de"},"date":1716719183,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"Ich hab zwar ne TPU in einigen Rechnern, aber keine nennenswerte GPU"}

{"message_id":102181,"from":{"id":339745568,"is_bot":false,"first_name":"Holger","last_name":"Quick","username":"hquick","language_code":"de"},"date":1716719166,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"Die lib könnte das auch schneller. Mir fehlt nur lokal die passende Hardware dazu"}

{"message_id":102180,"from":{"id":339745568,"is_bot":false,"first_name":"Holger","last_name":"Quick","username":"hquick","language_code":"de"},"date":1716719151,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"Das liegt nicht an der Lib"}

{"message_id":102179,"from":{"id":339745568,"is_bot":false,"first_name":"Holger","last_name":"Quick","username":"hquick","language_code":"de"},"date":1716719145,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"Whisper"}

{"message_id":102178,"from":{"id":10360828,"is_bot":false,"first_name":"Thomas","last_name":"Bayen","username":"tbayen","language_code":"de"},"date":1716719038,"chat":{"id":-1001377166351,"type":"supergroup","title":"Krefeld"},"text":"Welche Bibliothek nutzt Du dazu?"}