刘洽，年少时倜傥不群，当上了县里的捕盗吏，后因违法，为县令所笞罚，险些送命，因此冒死从军。汴宋都虞候李灵曜占据汴州谋反，刘洽奉永平节度使李勉之命，率兵偷袭宋州得手，朝廷将宋州隶属于永平军辖下，经李勉奏请，授刘洽为宋州刺史。

刘洽被加封为御史中丞、宋亳颍节度使，建号“宣武军”。平卢节度使李正己死后，其子李纳匿丧谋叛，而其族人李洧以徐州归顺朝廷，李纳遣兵围之。朝廷下诏，令刘洽等诸军援救李洧，刘洽与神策都知兵马使曲环、滑州刺史李澄及朔方大将唐朝臣共同援救徐州，大破魏博、平卢军，斩首八千级，迫使其解围逃窜，江淮漕运开始疏通，刘洽因功被加为御史大夫。

此后，刘洽又克复濮州，收降敌将杨令晖，分兵攻略濮阳，招降守将高彦昭，打通了濮阳渡口。朝廷再次论功，加刘洽为检校兵部尚书兼曹濮观察使，加食邑四百户，旋即加授淄青兖郓招讨使及汴滑都统副使之衔。

唐德宗因“泾原兵变”而亡命奉天，人心动摇，而手握重兵的淮宁节度使李希烈叛变，刘洽与李勉、淮南节度使陈少游、东都汝州节度使哥舒曜等联兵包围李希烈，削弱其兵势。李希烈攻陷汴州，旋即再陷襄邑，刘洽所派精兵五千人全军覆没，叛军乘胜进攻宁陵，自宋州至江、淮地区，人心大为震恐，刘洽部下大将刘昌坚守宁陵四十五日，迫使叛军撤退。

德宗命刘洽兼任汴、滑、宋、亳都统副使，知都统事，都统李勉将部众全部交付于他，又加检校尚书左仆射、同中书门下平章事。此时，李希烈又派部下骁将翟崇晖帅兵围攻陈州，刘洽派刘昌与时任陇右、幽州行营节度使曲环领兵三万援救陈州。刘昌等大败翟崇晖于陈州之西，杀叛军三万五千人，生擒翟崇晖，李希烈闻讯后，只得退保蔡州，不敢再行入侵，刘洽趁势收复汴州。德宗加授刘洽为检校司空，再加陈州诸军行营都统，德宗特赐刘洽姓名为刘玄佐，兼任汴州刺史。

李希烈被部将陈仙奇毒死，朝廷论功，授刘玄佐的一个儿子为正员官。刘玄佐与陈许节度使曲环、鄂岳观察使卢玄卿一同入朝觐见，被加封为泾原四镇北庭等道兵马副元帅、检校司徒，增实封食邑八百户。

大将李晟与左仆射张延赏交恶，张延赏中伤李晟意图不轨，李晟受诬后请求辞位，德宗于是命刘玄佐与镇海军节度使韩滉从中劝和，使二人暂时和好。韩滉举荐让刘玄佐领兵收复河湟地区，德宗以此征求刘玄佐的意见，刘玄佐也表示赞成。韩滉去世后，刘玄佐因已经升任宰相的张延赏，免除了李晟的兵权，而愤怨不平、心灰意冷，不愿为朝廷效力，便推辞收复河湟事宜。

刘玄佐起于市井，深知人情世故，性情豪侈，轻财重义，经常厚赏军士，他加重税赋，使百姓益加困苦。宣武军的士兵从李忠臣开始就逐渐骄纵，有割据之心，至刘玄佐在位后期，士卒愈加骄横，为日后的多次兵变埋下祸根。

刘玄佐在任上逝世，时年五十八岁，手下将佐密不发丧，数日后朝廷方知，德宗为其辍朝三日，追赠太傅，谥号“壮武”，其子刘士宁继任。