Константин Горшенин родился 28 мая 1907 года в небольшом городе Алатырь Симбирской губернии в семье рабочего-железнодорожника. Его отец всю жизнь трудился на Казанской железной дороге. В 17-летнем возрасте Константин, окончив Казанскую железнодорожную школу, стал учащимся индустриального техникума. Через полтора года, оставив учебу, начал работать слесарем в паровозном депо на станции Юдино Казанской железной дороги (Татарская АССР). Вскоре Горшенин стал одним из организаторов комсомольской ячейки станции, которую сам же и возглавил. Юноша тянулся к знаниям, серьезно увлекался правом, экономикой, философией. Для пополнения своего образования он выбрал Московский институт советского права, только что созданный на базе реорганизованного юридического факультета МГУ. Его он и окончил в 1932 году.
Константин Петрович учился блестяще, получая по всем предметам самые высокие оценки и проявляя особую склонность к научной и преподавательской деятельности. После завершения учебы он был оставлен в аспирантуре при институте. Своей научной специализацией избрал трудовое законодательство. В течение нескольких лет Горшенин усиленно работал над диссертацией по избранной им теме: «Правовое регулирование труда рабочих и служащих за первый год диктатуры пролетариата». Еще до окончания аспирантуры (в 1934 году) К. П. Горшенин стал официально работать в институте, занимая первое время должность заведующего хозяйственно-правовым отделением, а затем — и.о. заместителя директора по научной и учебной работе. В качестве ассистента он вел также практические занятия со студентами по курсу трудового права. В 1935 году его, как наиболее перспективного ученого, направили на работу в Казанский институт советского права, где он стал заместителем директора по научной и учебной работе и одновременно, в качестве доцента кафедры трудового права, читал лекции.
В 1938 году он стал членом коллегии Наркомата юстиции СССР, а в январе 1940 года Константин Петрович получил новое высокое назначение — он возглавил Народный комиссариат юстиции РСФСР. Органами юстиции республики ему пришлось руководить в самые тяжелое для страны время — в годы Великой Отечественной войны. На этом посту он сумел проявить себя вдумчивым, инициативным администратором, хорошо знающим систему руководимых им органов, задачи, стоящие перед ними, а также материальное и процессуальное право. За непродолжительное время, в течение которого он занимал эту должность (чуть более трех с половиной лет), К. П. Горшенин многое успел сделать для улучшения деятельности органов юстиции и судов республики. В ЦК ВКП (б), в правительстве Союза и Российской Федерации его работу оценивали довольно высоко, что и позволило ему вскоре подняться на одну из вершин в правоохранительной системе.
13 ноября 1943 года К.П. Горшенина назначают Прокурором СССР. Став во главе прокуратуры, он основное внимание аппарата направил на выполнение директивных указаний властей, принятых на заключительном этапе войны. Ближайшие задачи органов прокуратуры он изложил в своей статье, опубликованной в первом номере журнала «Социалистическая законность» за 1944 год. Среди этих задач он назвал борьбу с нарушениями трудовой дисциплины, хищениями и разбазариванием промышленных и продовольственных товаров, государственных средств и другими преступлениями, наносящими ущерб народному хозяйству, заботу о семьях защитников Родины. Особое место отводилось надзору за выполнением постановлений правительства о подготовке к весеннему севу. Для того, чтобы «не повторять ошибок прошлого», он предложил всему оперативному составу прокуратуры в период проведения весеннего сева «находиться в решающих районах». Прокурор Союза СССР обратил внимание своих подчиненных на необходимость усиления работы органов прокуратуры по гражданско-правовым делам, повышение общеобразовательного и профессионального уровня работников. «Повышение квалификации — не частное дело работников прокуратуры, не только их право, но и обязанность», — напоминал Горшенин.
2 марта 1944 года указом Президиума Верховного Совета СССР К.П. Горшенину был присвоен классный чин действительного государственного советника юстиции, что по тем временам (при наличии официально утвержденной сравнительной таблицы классных чинов прокурорско-следственных работников с воинскими званиями) соответствовало воинскому званию генерала армии.
Наступил 1945 год. Великая Отечественная война подходила к концу. Деятельность органов прокуратуры, немало сделавших для приближения победы, была по достоинству оценена властями. В январе 1945 года Прокурор Союза ССР К. П. Горшенин от имени Президиума Верховного Совета СССР вручил группе генералов и офицеров центрального аппарата Главной военной прокуратуры ордена и медали.
За время войны резко снизился образовательный уровень руководящего состава органов прокуратуры. Чтобы срочно исправить это положение, К. П. Горшенину пришлось принимать решительные меры. Своим приказом он обязал прокуроров республик, краев и областей и их заместителей, имеющих незаконченное высшее образование, пройти курс обучения в заочном юридическом институте и сдать государственные экзамены, а получивших среднее образование — немедленно приступить к занятиям в институте. Прокуроры, которые имели всего лишь начальное образование, должны были начать обучение по программе средней школы. Кроме того, своим приказом он поручил провести персональный учет всех ответственных работников, разбив их на несколько категорий, в зависимости от имеющегося образования. После этого прокуроры республик, краев и областей обязывались наметить формы обучения каждого прокурорско-следственного работника. В дальнейшем Горшенин строго контролировал выполнение своего приказа.
19 марта 1946 года по постановлению Верховного Совета СССР Прокурор СССР стал называться Генеральным прокурором СССР. 27 мая 1947 года, в связи с 25-летием органов прокуратуры и «за большие заслуги в осуществлении социалистической законности и укреплении советского правопорядка» К.П. Горшенин был вторично награжден орденом Ленина. Кроме него эту высокую награду получили еще 29 работников органов прокуратуры. Всего же ордена и медали получили в тот день более 900 прокуроров и следователей. Торжества по случаю юбилейной даты прошли во всех прокуратурах республик, краев и областей.
29 января 1948 года 4-я сессия Верховного Совета СССР 2-го созыва утвердила Константина Петровича в должности министра юстиции СССР, в связи с чем Президиум Верховного Совета СССР освободил его от обязанностей Генерального прокурора СССР. К. П. Горшенин пробыл министром юстиции более восьми лет.
31 мая 1956 года Министерство юстиции СССР было упразднено, а вместо него создана юридическая комиссия при Совете Министров СССР с ограниченными функциями. К.П. Горшенин автоматически утратил свой пост и работал директором Всесоюзного института юридических наук. В 1963 году он был назначен заведующим сектором трудового законодательства Всесоюзного научно-исследовательского института советского законодательства, а спустя четыре года вышел на пенсию, продолжая вести активную научно-педагогическую деятельность. В 1968 году стал доктором юридических наук.
Константин Петрович Горшенин был женат на Нине Витальевне, имел двух дочерей. Скончался К.П. Горшенин 27 мая 1978 года в Москве.