Иван (Иоганн) Каргель родился в 1849 году в семье немецких колонистов, живших в Грузии. Свои детские годы Каргель провёл в Германии и Болгарии, однако подробных сведений о них не сохранилось.

В юности Каргель с родителями возвращается в Россию, поселившись теперь в Санкт-Петербурге. Встретившись с Василием Пашковым, Каргель, выходец из лютеранской семьи, обращается к евангельскому исповеданию. Крещение по вере Каргель принимает в Тифлисе, в первой баптистской церкви, однако продолжает жить в Петербурге, где и женится на Анне Александровне, родившей Ивану Вениаминовичу четырёх дочерей.

После окончания баптистской семинарии в Гамбурге, под руководством Г. Онкена, возвращается в Петербург в качестве одного из пресвитеров общины евангельских христиан. В 1884 году Каргель был помощником председателя на Первом съезде русских, украинских и немецких баптистов в селе Нововасильевка, Таврической губернии. На этом съезде был образован Союз баптистов России, первым председателем которого был избран председательствующий на съезде И.И. Виллер.

После изгнания из России руководителей петербургской общины Василия Пашкова и Модеста Корфа, Каргель становится главным пресвитером общины. С 1887 года Каргель принимает служение миссионера в тюремной миссии, возглавляемой приехавшим из Германии д-ром Ф. Бедекером. С миссионерской целью Каргель и Бедекер в течении двух лет посещают тюрьмы, лагеря и места ссылок по всей империи, от Петербурга до Сахалина.

В 1903 году Каргель принимает участие в работе Первого европейского конгресса баптистов в Берлине, а в 1905 году — в Первом всемирном конгрессе баптистов в Лондоне, где был создан Всемирный союз баптистов.

В 1913 году в связи с появлением в России пятидесятнического движения, принесшего с собой смуту и раскол в евангельские церкви, Каргель берет под личную опеку общину в Гельсингфорсе, Финляндия, где произошел первый раскол, выступает с осуждением религиозной практики пятидесятников, и пишет книгу «В каком отношении ты к Духу Святому», в которой выражает вероучение евангельских христиан.

Имя Ивана Вениаминовича Каргеля, автора книги “Свет из тени будущих благ” и ряда других замечательных духовных произведений, таких как “Христос — освящение наше” и “В каком ты отношени к Духу Святому”, хорошо известно верующим евангельских церквей нашей страны и за рубежом. Он является классиком духовной литературы. На книгах И. В. Каргеля воспитывалось несколько поколений верующих. Он стоял у истоков евангельского движения дореволюционной России.