Am 14. Jänner 1892 gründete der Sohn eines Jüdischen Fleischhauers, Karl Pick den Verein der Kaufmännischen Angestellten, eine Vorläuferorganisation der GPA. Zu seinen wichtigsten Erfolgen gehören der erste Kollekivvertrag und die Durchsetzung des Angestelltengesetzes.
Karl Pick wurde am 22. Dezember 1867 bei Kolin im heutigen Tschechien geboren und wuchs in sehr einfachen Verhältnissen auf. Er hatte noch zwei Brüder und zwei Schwestern und sein Vater hatte kein Geld um den Kindern eine Schulbildung zu finanzieren. 1895 wurde Karl Pick, der nun in Wien lebte, zum Obmann des Vereins der Kaufmännischen Angestellten gewählt. 1898 folge die Wahl zum Obmann des Gehilfenausschusses, des Gremiums der Wiener Kaufleute.
In dieser Rolle setzte Karl Pick sich erfolgreich für die Verlängerung der Freizeit für die Angestellten ein. Gegen den erbitterten Widerstand der Unternehmer wurde die Sonntagsruhe und etappenweise die Vorverlegung der Sperrstunde erreicht. 1910 wurde das österreichische Handlungsgehilfengesetz beschlossen, das zahlreiche Verbesserungen für die Angestellten brachte und daher in vielen Ländern als Vorbild galt.
1916 gelang es Pick und seinen Kollegen vom Gehilfenausschuss den ersten Kollektivvertag mit den Unternehmern auszuhandeln. 1918 folgte der Beschluss des ersten Angestelltengesetzes, das erstmals Mindesturlaube von zwei bis 5 Wochen festlegte. Geregelt wurden darin außerdem die Kündigungsfristen von mindestens 6 Wochen, Abfertigungszahlungen, eine Gehaltsfortzahlung bei Krankheit und viele weitere sozialpolitische Schutzbestimmungen.
Im Februar 1019 wurde Karl Pick als sozialdemokratischer Abgeordneter ins österreichische Parlament gewählt. Dort setzte er sich für zahlreiche weitere Verbesserungen ein – unter anderem für Verbesserungen für rechtlose WohnungsmieterInnen.
1933 bis 1934 warnte Karl Pick immer wieder vor der Gefahr des Faschismus und rief bei zahlreichen Versammlungen dazu auf die Demokratie zu kämpfen. Am 12. Februar 1934 wurde das Haus der Gewerkschaft der Privatangestellten in der Werdertorgasse von Polizisten mit Bajonetten besetzt. Am nächsten Tag wurde Karl Pick verhaftet und in das Polizeigefängnis auf der Rossauer Lände gebracht. Dort wurde ihm seine Brille weggenommen, sodass er sich an der Wand entlangtasten musste um etwa zur Wasserleitung zu kommen. Nach 2 Monaten Haft musste die gerichtliche Voruntersuchung gegen Pick eingestellt werden und er wurde wegen „mangelnden Tatbestands“ entlassen. Nach seiner Entlassung zog er sich wegen seines schlechten Gesundheitszustand von allem zurück und vereinsamte zusehends. 1938 starb er in einem Notbett am Gang im Spital der Wiener Kaufmannschaft.