«På møte i riksarkivet 8. februar 1936 blev det besluttet å stifte en arkivarforening.» Slik lyder innledningen på det vi kan kalle Arkivarforeningens stiftelsesdokument. Innbydelse til møtet og utkast til lov for foreningen var etter drøftelser sendt ut på forhånd til interesserte fra en komite bestående av førstearkivar Agerholt og arkivar Johnsen. På stiftelsesmøtet ble riksarkivar Steinnes valgt til formann. På dette tidspunkt hadde foreningen 14 medlemmer. Det ble bestemt at foreningen skulle søke medlemsskap i Embedsmennenes Fellesutvalg, enten direkte eller gjennom Videnskabelige Tjenestemenns Landsforening.
På stiftelsesmøtet ble det som planlagt vedtatt en lov for foreningen. Her fremgår det at arkivembetsmenn og av departementet fast ansatte arkivarer i statens arkivverk, samt midlertidig ansatte som hadde gjort tjeneste i full arkivarstilling i minst to år, hadde adgang til å bli medlemmer. Foreningens formål var å ivareta medlemmenes økonomiske, tjenstlige, faglige og kollegiale interesser.
Det første ordinære medlemsmøtet ble avholdt den 14. april 1936. Her ble det blant annet besluttet at foreningen skulle søke «kongelig godkjennelse som forhandlingsberettiget organisasjon». Medlemskontingenten ble satt til fem kroner pr. medlem for to år eller inntil videre. Riksarkivar Steinnes ble gjenvalgt som formann – han anså seg ikke berettiget til å nekte gjenvalg.